カバーストーリー Insider Online限定

グーグルが目指す暴言のないネット社会は全体主義にそっくり

グーグルは人工知能により、ネット上の群衆が暴徒化しないよう、暴言コメントを排除する野心的な計画を立てている。テクノロジーは未熟であり、課題を完全には達成できないものの、ネット上の行儀がよいコミュニティでは、十分に役立つだろう。 by David Auerbach2016.12.14

人間はインターネットを壊してしまった。ネットいじめや嫌がらせ、ソーシャル侮辱、純粋に不快な書き込みが、ツイッターやレディット（米国の２ちゃんねる）などのサイトに蔓延している。不本意に注目されれば特にそうだ。『ゴーストバスターズ』主演のレスリー・ジョーンズ（ツイッター上で容姿などについて侮辱され、ツイッターを去った）や、メディア企業の広報部長だったジャスティン・サッコ（南アフリカ行きの飛行機に登場する直前「これからアフリカに行きます。エイズにかからないといいな。というのは冗談よ。私は白人だもの！」とツイートし、解雇された）がどんな集団暴言の標的になったか考えてみればいい。

オンラインサービスの運営会社は概して、嫌がらせに対する不干渉と言論の自由の抑圧に対する責任の狭間にある。しかし今、グーグルはデジタルコモンズの悲劇の軽減に人工知能を使おうとしている（記事の中立性に関わる警告：筆者はは2000年代にグーグルで働いていた）。グーグル社内のテクノロジー育成グループ「ジグソー」（以前は「グーグルアイデア」と）は、自動プログラム「カンバセーションAI」によって、ネット上の嫌がらせを検出し、除去するつもりだというのだ。ジグソー部門の責任者であるジャレッド・コーエンはワイヤードに「私は、自社にある最高のテクノロジーによって、荒らしや敵意のある意見を目立たせる邪悪な炎上戦術に対処し、荒廃したインターネットに平穏を取り戻すことに全力を作りたいのです」という。

こんなことに取り組むとはグーグルも大胆だ。しかも、以前ジグソー成し遂げたサービス不能（DoS）攻撃に対抗して表現の自由を奨励しニュースサイトやWebサイトを守る「プロジェクト・シールド」や、ジグソーの努力が実を結んだフィッシング攻撃を防御するChrome拡張「パスワード・アラート」といった業績とは方向性が異なる。以前の仕事は、主に技術的な課題だったが、荒らしやネット上の群衆と戦うのは社会学的問題でもある。

カンバセーションAIは、グーグルの「ムーンショット」（月面着陸のように大がかりなことの例え）でも、最も成功した「Google Brain」から枝分かれしたプロジェクトだ。Google Brainは大規模なニューラルネットワークによって機械学習分野で起きた革命を支援し、人間より高い能力がある画像認識ソフトウェアなどで、グーグルの優位を形作った。しかし、カンバセーションAIはネット上の暴言に完全には対処できないだろう。ジグソーは「ネット上の群衆（オンラインモブ）の台頭と戦う」ことを目標として表明したが、プログラム自体はずっと控えめな、それゆえにいかにも達成が約束されたプロジェクトだ。カンバセーションAIは主に、現在は人間が担当するコミュニティのモデレーションを効率化する。したがって、ネット上の非常にひどい行動を削減できないまでも、Webサイトによっては、建設的な議論を促してくれるかもしれない。

当てつけ検知

ジグソーは、ニューヨーク・タイムズ紙でオンラインのコメント管理に、数カ月間、カンバセーションAIを導入する実証実験中だ。タイムズ紙では現在、人間のモデレーターはニューヨーク・タイムズ紙のサイトに掲載されるほぼ全てのコメントをチェックしている。現 …

こちらは有料会員限定の記事です。 有料会員になると制限なしにご利用いただけます。

有料会員にはメリットがいっぱい！

毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
重要テーマが押さえられる。
各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。

【冬割】実施中！年間購読料20％オフ！

人気の記事ランキング