人間はインターネットを壊してしまった。ネットいじめや嫌がらせ、ソーシャル侮辱、純粋に不快な書き込みが、ツイッターやレディット（米国の２ちゃんねる）などのサイトに蔓延している。不本意に注目されれば特にそうだ。『ゴーストバスターズ』主演のレスリー・ジョーンズ（ツイッター上で容姿などについて侮辱され、ツイッターを去った）や、メディア企業の広報部長だったジャスティン・サッコ（南アフリカ行きの飛行機に登場する直前「これからアフリカに 行きます。エイズにかからないといいな。というのは冗談よ。私は白人だもの！」とツイートし、解雇された）がどんな集団暴言の標的になったか考えてみればいい。
オンラインサービスの運営会社は概して、嫌がらせに対する不干渉と言論の自由の抑圧に対する責任の狭間にある。しかし今、グーグルはデジタルコモンズの悲劇の軽減に人工知能を使おうとしている（記事の中立性に関わる警告：筆者はは2000年代にグーグルで働いていた）。グーグル社内のテクノロジー育成グループ「ジグソー」（以前は「グーグルアイデア」と）は、自動プログラム「カンバセーションAI」によって、ネット上の嫌がらせを検出し、除去するつもりだというのだ。ジグソー部門の責任者であるジャレッド・コーエンはワイヤードに「私は、自社にある最高のテクノロジーによって、荒らしや敵意のある意見を目立たせる邪悪な炎上戦術に対処し、荒廃したインターネットに平穏を取り戻すことに全力を作りたいのです」という。
こんなことに取り組むとはグーグルも大胆だ。しかも、以前ジグソー成し遂げたサービス不能（DoS）攻撃に対抗して表現の自由を奨励しニュースサイトやWebサイトを守る「プロジェクト・シールド」や、ジグソーの努力が実を結んだフィッシング攻撃を防御するChrome拡張「パスワード・アラート」といった業績とは方向性が異なる。以前の仕事は、主に技術的な課題だったが、荒らしやネット上の群衆と戦うのは社会学的問題でもある。
カンバセーションAIは、グーグルの「ムーンショット」（月面着陸のように大がかりなことの例え）でも、最も成功した「Google Brain」から枝分かれしたプロジェクトだ。Google Brainは大規模なニューラルネットワークによって機械学習分野で起きた革命を支援し、人間より高い能力がある画像認識ソフトウェアなどで、グーグルの優位を形作った。しかし、カンバセーションAIはネット上の暴言に完全には対処できないだろう。ジグソーは「ネット上の群衆（オンラインモブ）の台頭と戦う」ことを目標として表明したが、プログラム自体はずっと控えめな、それゆえにいかにも達成が約束されたプロジェクトだ。カンバセーションAIは主に、現在は人間が担当するコミュニティのモデレーションを効率化する。したがって、ネット上の非常にひどい行動を削減できないまでも、Webサイトによっては、建設的な議論を促してくれるかもしれない。
当てつけ検知
ジグソーは、ニューヨーク・タイムズ紙でオンラインのコメント管理に、数カ月間、カンバセーションAIを導入する実証実験中だ。タイムズ紙では現在、人間のモデレーターはニューヨーク・タイムズ紙のサイトに掲載されるほぼ全てのコメントをチェックしている。現 …