特報：内部文書で判明、
フェイスブックを汚染する
「トロールファーム」の実態

米国史上最大の激戦となった2020年の大統領選の期間中、キリスト教系米国人とアフリカ系米国人向けのコンテンツを掲載するフェイスブック・ページでもっとも閲覧されたのは、東欧のトロールファーム（情報工作組織）が運営するページだった。フェイスブックの内部報告書によると、それらのページは巨大ネットワークの一部であり、ネットワーク全体では全米国民のほぼ半数にリーチしていたという。しかも、これらのページがそこまで多く閲覧されたのは、ユーザー自身が選択したからではなく、フェイスブックのプラットフォーム設計と、エンゲージメントを強く求めるアルゴリズムの結果だという。

MITテクノロジーレビューはフェイスブックの元社員から、2019年10月に作成された内部報告書を入手した。提供元の元社員はこの内部調査には関与していない。報告書によると、フェイスブックは2016年の米大統領選後も、情報を促進・配信する方法を根本的に変更することを優先しなかった。その代わりにフェイスブックは、政治的言説に携わる悪質なアクター（行為者）の活動を監視および鎮圧し、「最悪中の最悪」の事態を防ぐガードレールを追加するというもぐら叩きのような戦略を遂行した。

しかし、このアプローチは、根本的な問題を食い止めるうえでほとんど効果がなかったと報告書は指摘している。トロールファームは刺激的な内容、しばしばプロパガンダを、ソーシャルネットワークに投稿するために協調して動くプロ集団だ。フェイスブック・ページのネットワークを運営することで、依然として膨大な数の読者を獲得しており、投稿は月間1億4000万もの米国人ユーザーにリーチしていた。うち75%は、ほかにどのページもフォローしていなかった。多くの米国人がコンテンツを閲覧したのは、フェイスブックの「おすすめ」システムが、トロールファームの投稿をニュースフィードに上げたためだった。

「ユーザーがこれらのトロールファームからコンテンツを受け取ることを選択しているのではなく、当社のプラットフォームが（トロールファームに）多数のユーザーを与えることを選択している」。内部報告書を作成したフェイスブックの上級データ科学者（当時）ジェフ・アレンはこう記している。

フェイスブックのジョー・オズボーン広報責任者は、アレン元上級データ科学者が報告書を作成した時点でフェイスブックは「すでにこれらのトピックを調査していました」と声明文の中で述べた。「それ以来、当社はチームを立ち上げ、新しいポリシーを策定し、業界内の同業者と協力して、これらのネットワークに対処してきました。私たちは、このような国内外の不正グループに対して積極的な強制措置を講じ、その結果を四半期ごとに公表しています」。

本稿の公開直前のファクトチェックにおいて、MIT テクノロジーレビューは、報告書に記載があるトロールファームのページのうち、5つがいまだに活動していることを発見した。

ロシア政府の支援を受けたインターネット・リサーチ・エージェンシー（IRA）は2016年の米大統領選の期間中、ターゲットをキリスト教系米国人および黒人の米国人とネイティブアメリカンに定めた。今回のトロールファームも、それと同じユーザー層に手を伸ばしていたことが報告書で明らかになっている。2018年のバズフィード・ニュースの調査によると、2016年の米大統領選における介入の疑いで起訴されたIRAのメンバーのうち少なくとも1人が、複数のトロールファームが最初に出現した前後にマケドニアを訪れている。だが、そのつながりを示す具体的な証拠は見つかっていない（フェイスブックによると、同社の調査でも、IRAとマケドニアのトロールファームの結びつきは見つからなかったとのこと）。

「これは普通のことではありません。健全とは決して言えません」とアレン元上級データ科学者は記している。「フェイスブックは不正なトロールファームに対して、ほとんど未知の目的のために、膨大な数のユーザーを獲得する力を与えてきました。（中略）IRAとつながっている可能性のあるトロールファームが、IRAのターゲットとなったユーザー層において膨大な数のユーザーにリーチしている事実は、2020年の米大統領選に大きなリスクをもたらします」。

トロールファームがこのような戦術で成功を収めた以上、他の悪質なアクターも追随する可能性があるとアレン元上級データ科学者は続ける。「トロールファームがアフリカ系米国人をターゲットにしたコンテンツで米国のユーザー3000万人を …

人気の記事ランキング

1. Anthropic can now track the bizarre inner workings of a large language model 大規模言語モデルは内部で 何をやっているのか？ 覗いて分かった奇妙な回路
2. Promotion MITTR Emerging Technology Nite #32 Plus 中国AIをテーマに、MITTR「生成AI革命4」開催のご案内
3. AI companions are the final stage of digital addiction, and lawmakers are taking aim SNS超える中毒性、「AIコンパニオン」に安全対策求める声
4. What is vibe coding, exactly? バイブコーディングとは何か？ AIに「委ねる」プログラミング新手法
5. Tariffs are bad news for batteries トランプ関税で米電池産業に大打撃、主要部品の大半は中国製