フェイスブックとツイッター、マイクロソフト、YouTubeは、（イスラム原理主義や白人至上主義などの）過激主義コンテンツを各社が運営するWebサイトから効率的に排除するために協力する。

ソーシャルメディアの二枚舌的な戦略は、イスラム国（ISIS）などのテロ組織による動画や画像の拡散、構成員の勧誘、暴力の扇動を助長してきた。昨年の記事でも伝えたとおり、特にISISは「21世紀のテクノロジーを利用して、大量殺戮や拷問、レイプ、奴隷化、遺跡の破壊など、ほとんど中世のようなイデオロギーを広めている」。

こうしたコンテンツを広めるのに使われているWebサイトは現在、アップロードされたコンテンツを精査しブロックするために協力し始めている。あるメディアファイルを固有の番号で表現する「ハッシュ化」の手法で、各サイトで禁止・削除されたコンテンツの記録を共有する予定だ。

今年発表された報告によると、グーグルとフェイスブックがすでに過激主義のコンテンツをブロックするためにハッシュ化を応用する実験を開始している。データベースは2017年初頭に運用が開始される予定だが、新しい共有データベースが実装されれば、ある会社で禁止・削除されたコンテンツは別の会社のWebサイトからも削除されることになる。

ブラックリストに載ったからといって、アルゴリズムでコンテンツが自動判別されるわけではない。人間がブロックの判断に関わることで、たとえばテロリズムに関する報道が誤削除されないようにする。

ダートマス大学のハニー・ファリド教授（コンピューター科学）は、ガーディアン紙上で、こうした人間による確認も注意深く監督しなければならない、と警告している 。

「過激主義のコンテンツに精通した人に、最新の状況に基づいて審査されていることを確認させる必要があります。そうしなければ、個々のテック企業に判断のすべてを委ねてしまうことになります」

それでも、歓迎すべきニュースだ。テック企業は以前から過激主義のコンテンツを当局に通報することに抵抗してきた。だが政治的なプレッシャーが増大する中で、テック企業は明らかに、これまでの手法の見直しを迫られている。

（関連記事：The New York Times, The Guardian, “Fighting ISIS Online,” “シリコンバレー企業はハッシュ関数でテロと闘う,” “What Role Should Silicon Valley Play in Fighting Terrorism?”）

• 9
• 2
• 1
• 0

人気の記事ランキング

1. How a top Chinese AI model overcame US sanctions 米制裁で磨かれた中国AI「DeepSeek-R1」、逆説の革新
2. OpenAI has created an AI model for longevity science オープンAI、「GPT-4b micro」で科学分野に参入へ
3. 10 Breakthrough Technologies 2025 MITTRが選んだ 世界を変える10大技術 2025年版
4. AI means the end of internet search as we’ve known it 「ググる」時代の終わり、 世界の知識を解き放つ 生成AI検索がもたらすもの