最近のテロ攻撃の続発を受け、政治家たちは、過激主義の温床となっているとしてソーシャル・ネットワークを非難した。そんな中、フェイスブックは「テロリストに厳しい環境」へと変化すべく人工知能（AI）を開発し、150人の専門家を雇って対策チームの設置を進めていると発表した。
フェイスブックのマーク・ザッカーバーグCEO（最高経営責任者）は、自らが夢想する未来像の中でフェイスブックが直面している問題（暴力的コンテンツや児童虐待、ねつ造ニュース、過激主義など）の多くはAIの発展によって軽減される、と説明した。強力なアルゴリズムで不快なコンテンツと不正ユーザーを検知し、問題が解消できるかもしれない、というのが彼の持論だ。
しかし現在のところ、ザッカーバーグCEOの構想はまだ実現していない。実際のところ、ねつ造ニュースの事実確認は第三者によって行われているし、有害な内容を含む可能性のあるコンテンツを鑑別するために数千名が雇われている。これらの対策はもちろん良い取り組みではあるが、 ザッカーバーグが実現を約束した自動化による解決策ではない。
それでも、フェイスブックはAIを活用し、過激主義者による戦闘員の募集とプロパガンダの影響力を弱めようと努めている。その取り組みについて語られた声明の中で、フェイスブックのグローバル・ポリシー管理担当ディレクターのモニカ・ビッカートとテロ対策ポリシー責任者のブライアン・フィッシュマンの2人は、フェイスブックがテロリズムへの対抗手段としてAIを活用し始めたのはごく最近のことだが、すでに良い効果が出ていると述べた。
フェイスブックはテロリズムへの対抗手段として、具体的には以下のような取り組みを行っている。
- 画像認識技術を用いて以前に削除を受けたコンテンツを特定し、再投稿を防止する
- テキスト分析によってテロリズム関連言語を洗い出し、プロパガンダを特定する
- 不適切なユーザーによる一般ユーザーへの接触を監視し、過激主義者による戦闘員の募集行為を特定する
- 不適切な投稿を繰り返すユーザーが新たにアカウントを作る行為を監視し、アカウント停止措置を迅速化する
当然、これらの取り組みのどれか1つにでも効力があるのかどうかは大きな疑問だ。複雑にもつれ合ったネット上の社会問題の解決に人工知能を活用しようとする他の試み（たとえばグーグルによるヘイト・スピーチ根絶の取り組みなど）は、いまだに芳しい成果を上げていない。その大きな要因となっているのが、どんなに賢いAIが相手であっても、人間はその裏をかき、出し抜く方法を見つけ出してしまうという事実だ。たとえばグーグルのケースでは、言葉が伏せられ、置き換えられたために、AIは発言の真意を特定することができなかった。
実際、フェイスブックは厄介な問題だとわかっている。「テロに対する取り組みにはきりがありません。なぜなら、これは敵意による行為であり、テロリスト側も手段を発達させ続けているからです」。
テクノロジーだけでは問題を解消できないとフェイスブックが認めつつあるのは、このためかもしれない。フェイスブックは、テロ対策の専門家150名からなるチームも設置した。元学者や元捜査官、元司法当局職員をメンバーに含む専門チームが、投稿されたコンテンツを解読して問題の発見にあたる。また同社は、フェイスブック単独では問題を解決できないとの認識から、 ほかのSNSサービスや行政とも協力しながら対処を続けていくとしている。
人間の直感力と、単純作業を得意とするAIの機能とを組み合わせることで、フェイスブックは長年にわたって蔓延してきた問題を、最大限の努力をもって根絶しようとしている。しかし、人間とAIが力を合わせても、過激主義者を上回るほどの知恵が発揮できるかは未知数だ。
（関連記事：Facebook, “グーグルが目指す暴言のないネット社会は全体主義にそっくり,” “Fighting ISIS Online,” “Theresa May Wants to End ‘Safe Spaces’ for Terrorists on the Internet. What Does That Even Mean?”）