グーグルはいかにして
ヘイト、テロ、デマと
戦ってきたか

ヘイト・ スピーチ、ネット上での暴力的な過激主義、爆弾製造マニュアル、国家主導のフェイクニュース、弾圧的な検閲など、インターネットには危険が満ちあふれている。

そうした危険をたとえ一部であっても、できるだけ小さくしたい。それが、グーグルの親会社アルファベット（Alphabet）傘下のジグソー（Jigsaw）のヤスミン・グリーン研究開発部長の仕事である。グリーン研究開発部長は、ソフトウェア・エンジニア、科学研究者、プロダクト・マネージャーなど約60人の専門家からなる多国籍チームとともに、テロリストや荒らしにも対峙する。チームはグーグルの膨大なリソースも利用できる。だが、コーディングやシステムの構築にすべての時間を費やしているわけではない。多くのチームメンバーは、実際に地政学的なホット・スポットに出かけて、暴力的な過激主義の実体を直に調査している。グリーン研究開発部長はチームが進める研究方法について、MITテクノロジーレビューの取材に答えた。

＃

——どうしてジグソーで仕事をしたいと思ったのですか？

まだ幼い頃、生まれ育ったイランを脱出して英国で育ちました。19歳でイランに帰国して、オンラインでもオフラインでも国家検閲の厳しさに驚いたことを覚えています。「ワールド・ワイド・ウェブ（WWW)」といった言葉は、情報が自由に手に入れられない国に住んでいる人にとっては皮肉にも聞こえます。だから、すべての人が利用できる情報を作っている会社に入りたいと思ったのです。

——ジグソーはインターネット上の脅威に取り組んでいます。チームのメンバーが職務として紛争地域にも出かける目的は何でしょうか？

人間的な経験によって得られた理解に根ざしたテクノロジーを作りたいのです。ジグソーの手法の重要な部分は、チーム・メンバーを現地に送り、抑圧だろうが、紛争だろうが、取り組もうとしている課題の最前線にいる人と会って話を聞くことです。現地調査対象の一つはイラクでした。イラクでは、イスラム国（ISIS）として知られる組織に入り、脱退した人と膝を交えて話を聞きました。暴力的な過激主義に至るプロセスの人間的な要素と、同時にテクノロジーがどのような役割を果たしたのかを知りたかったのです。どのようにISISを知り、どのように一員として採用され、ISISへ実際に移動する過程でテクノロジーがどのように使われていたのかを聞きました。

——ISISは人員確保のためにインターネットを活用しています。もっとも重要な教訓とは何でしょうか？

ISISはラジオから宣伝チラシまで多くのメディアを使いこなしています。インターネットについても、個人を標的とするときの威力について本当に理解しています。アラビア語や英語をはじめ非常にたくさんの言語でコンテンツを作成しており、中国語やヘブライ語まで網羅しています。一番大きなショックを受けたのは、手話を使った映像です。つまりISISはきわめて地域密着型の人員募集コンテンツを作成し、ソーシャル・メディアのアルゴリズムを利用してそのコンテンツを世界の隅々の人にまで届くように配信しているのです。

——テロリストがオンラインに投稿するコンテンツの一部は明らかに削除する必要があります。しかし、直截的ではないもっと微妙なプロパガンダにはどのように対処すればよいのでしょうか？

斬首映像や爆弾の作り方など、決して世界の人の …

人気の記事ランキング

1. AI crawler wars threaten to make the web more closed for everyone 失われるWebの多様性——AIクローラー戦争が始まった
2. Promotion Innovators Under 35 Japan × CROSS U 好評につき第2弾！研究者のキャリアを考える無料イベント【3/14】
3. Inside the race to archive the US government’s websites 米政府系サイトが続々閉鎖、 科学者らが緊急保存作戦
4. From COBOL to chaos: Elon Musk, DOGE, and the Evil Housekeeper Problem 米「DOGE暴走」、政府システムの脆弱性浮き彫りに
5. What a major battery fire means for the future of energy storage 米大規模バッテリー火災、高まる安全性への懸念