人的ミスの再発防止…Google検索結果に人手が介在

Googleで全ての検索結果が、「マルウェアサイト」扱いになってしまう問題が発生しました。
その時間に検索していたので、正直驚きました。なんかやらかしたんだろうな...というのは、想像できたのですが。
原因は、マルウェア用ブラックリスト更新の際の「人的ミス」。
同じブラックリストをGmailの迷惑メール判定に用いていたため、そちらでも影響が出ているようです。
こちらは個人的には影響なし。

---

以前Googleは、検索結果に人手が介在していない(アルゴリズムを変更することはあるが、検索結果はコンピュータの検索結果である)ことを売りにしていたように思いますが、「ブラックリスト」という人手が介在する部分があるんですね。
今回は、全てのWebページが危険なサイト判定になっていたために即座に気がつくことができましたが、特定のサイトを「悪意をもって」、マルウェア配布サイトだと判定することもできることがわかったのが、私としてはショックでした。
もちろん、下記の仕組み(自分のサイトをブラックリストから除外できる)で免責されるとの考えのようですが。

コンピューターに損害を与える恐れのあるサイトからユーザーの皆様を保護するために行なっており、損害を与える可能性のある URL のリストは人的および機械的に管理されています。このリストは、StopBadware.org という非営利団体と共同で管理しており、ウェブオーナーの方々はそのリストからご自身のサイトの URL を簡単に除外することができるようにしています。

Google Japan Blog: 全ての検索結果に「このサイトはコンピュータに損害を与える可能性があります。」というメッセージが表示された件について
http://googlejapan.blogspot.com/2009/02/blog-post.html

---

今回の障害に焦点を当てなおしてみると、復旧を1時間以内にしてのけたのは、さすがと言ったところでしょう。

What happened? Very simply, human error.

Official Google Blog: "This site may harm your computer" on every search result?!?!
http://googleblog.blogspot.com/2009/01/this-site-may-harm-your-computer-on.html

我々は定期的にこのリストの更新をしており、昨晩も新たに更新されたリストをリリースしました。誠に遺憾なことに単純な人為的ミスにより、この更新されたリストのなかに "/" というパターンが誤って混入していたため、全ての URL がこのパターンにマッチしてしまう、という事態が発生しました。エンジニアリングチームが問題を迅速に発見しリストの訂正を行ないましたが、約 40 分間、誤ったメッセージが表示されてしまいました。 御迷惑をおかけしたユーザーの皆様、およびに、誤ったメッセージをともなって検索結果に表示されたサイトオーナーの皆様に深くお詫び申し上げます。今後は問題の再発防止につとめて参ります。

Google Japan Blog: 全ての検索結果に「このサイトはコンピュータに損害を与える可能性があります。」というメッセージが表示された件について
http://googlejapan.blogspot.com/2009/02/blog-post.html
誰だって、ミスはします。
ですから、根本的な再発防止策として、ミスをしない仕組みを作ることが大事なのです。
(ミスを犯した人の不注意を責めて終わりにするのは、それこそ組織が終わっています)

Googleがミスをしたことに驚きはありません。
ですが根本的対策をせずに、「気をつけます」「人的チェックを厳重にします」と言って終わりにするつもりはないですよね?

今後は問題の再発防止につとめて参ります。

Google Japan Blog: 全ての検索結果に「このサイトはコンピュータに損害を与える可能性があります。」というメッセージが表示された件について
http://googlejapan.blogspot.com/2009/02/blog-post.html
ということですので、信じて待つことにします。
「いつまでに再発防止策をまとめるか」を宣言していないので、信用できる度合いはやや低いですけど。