ネットで拡散止まぬ誤報、
背景にFBとグーグルの資金

2021年3月、ミャンマー。

民主主義政権の崩壊から1カ月後。

フェイスブック（2021 年10月に社名をメタ（Meta）に変更）が運営するツール、「クラウド・タングル（CrowdTangle）」のデータによれば、2015年にフェイスブックで最もエンゲージメントを獲得したミャンマーのWebサイト10件のうち、6件は合法的なメディアによるものだった。その翌年、フェイスブックは、コンテンツ収益化のためにパブリッシャーが利用できるプログラム、「インスタント・アーティクル（Instant Articles）」を世界に公開した。

同プログラムを公開した1年後には、ミャンマーのフェイスブックの上位10社のパブリッシャーのうち、合法だったのはわずか2社で、2018年にはゼロになっていた。すべてのエンゲージメントは、フェイクニュースやクリックベイト（釣り記事）のWebサイトに移っていたのだ。フェイスブックがインターネットの代名詞となっている国では、低品質のコンテンツが他の情報源を圧倒していた。

ミャンマーのデジタル環境が急速に悪化する中、2017年8月にはイスラム系少数民族ロヒンギャの過激派グループが治安部隊を襲撃し12人を殺害した。警察や軍がロヒンギャを厳しく取り締まり、反イスラムのプロパガンダを流すようになると、感情に訴えたフェイクニュース記事が拡散した。フェイクニュースは、1000人規模の武装イスラム集団が人々を殺害しようとすぐそこまで迫っていると書きたてた。

主にこういったフェイクニュースを流しているのが、政治的なアクター（行為者）なのか、それとも金銭目的のアクターなのか、今のところ明確ではない。いずれにしても、大量のフェイクニュースとクリックベイトの拡散は、すでに相当高まっていた民族的・宗教的緊張の火に油を注ぐようなものだった。フェイクニュースが世論を動かし、紛争をエスカレートさせ、最終的には、控えめに見積もっても1万人のロヒンギャが死亡し、70万人以上が避難することになった。

2018年に国連調査団は、ロヒンギャに対する暴行が大量虐殺に発展し、フェイスブックがこの残虐行為の「決定的役割」を担ったと判断した。数カ月後、フェイスブックは、「私たちのプラットフォームが分裂を煽り、オフラインにおける暴力の扇動に利用されるのを防ぐ努力」を十分にしていなかったと認めた。

内部告発者フランシス・ホーゲンが米国議会と報道機関グループに提供した内部文書集「フェイスブック・ペーパーズ（Facebook Papers）」により、2021年10月末からの数週間にわたり、市民グループが数年前から言い続けてきたことが再確認された。つまり、フェイスブックのアルゴリズムにより扇情的なコンテンツが増幅されており、欧米以外ではコンテンツの適正化が優先されないため、ヘイトスピーチや誤報の拡散が助長され、世界中の国々が危険にさらされているのだ。

だが、この話には決定的な要素が欠けている。フェイスブックは誤報を増幅しているだけではない。

誤報を流しているアクターに資金提供もしているのだ。

MITテクノロジーレビューが専門家へのインタビューやデータ分析、フェイスブック・ペーパーズに含まれていない文書に基づいて調査したところによると、フェイスブックとグーグルは、数百万ドルの広告費をクリックベイト・アクターに支払っており、世界中の情報の生態系（エコシステム）の悪化を煽っていることが判明した。

クリックベイト・ファームの仕組み

フェイスブックが欧米の一部のパブリッシャー向けに「インスタント・アーティクル（Instant Articles）」プログラムを立ち上げたのは2015年のことだ。同社はこのプログラムを、記事の読み込み時間を改善し、より洗練されたユーザー体験を実現するためと説明している。

だがそれは表向きの理由だった。インスタント・アーティクルの導入によって、グーグルから体よく広告費を奪うことになった。導入以前は、フェイスブックに投稿された記事はブラウザーに転送され、パブリッシャーのWebサイトで開かれていた。広告会社（通常はグーグル）は、広告の閲覧やクリックによって利益を得る。インスタント・アーティクルのスキームでは、記事はフェイスブック・アプリ内で直接表示され、広告スペースをフェイスブックが所有する。参加パブリッシャーが「オーディエンス・ネットワーク（Audience Network）」というフェイスブックの広告ネットワークでの収益化も選択している場合、フェイスブックはパブリッシャーの記事に広告を挿入し、収益の30％を得られる。

インスタント・アーティクルは、元々主流派だった大手パブリッシャーたちからはすぐに支持されなくなった。他の方法に比べて十分な報酬が得られなかったからだ。だが、フェイスブックが2016年にプログラムへの受け入れを開始したグローバル・サウス（主に南半球の発展途上国）のパブリッシャーたちは違っていた。2018年、フェイスブックはパブリッシャーとアプリ開発者（オーディエンス・ネットワークにも参加可能）に15億ドルを支払ったと報告している。2019年には、支払い額は数十億ドルに達した。

フェイスブックは当初、プログラムに参加するパブリッシャーの質をほとんど管理していなかった。また、プラットフォームの設計上、ユーザーが同一のコンテンツを複数のフェイスブックページに投稿することに関して十分なペナルティを課すことができず、むしろ助長していた。同一の記事を複数のページに投稿することで、クリックによる広告収入を得るユーザーの数が2倍になることもあった。

世界中のクリックベイト・ファーム（製造所）は、プラットフォームのこの欠陥に飛びつき、現在も戦略的に利用している。

ミャンマーでは一夜にして、多くのクリックベイト・アクターが誕生した。魅力的で効果的なコンテンツを作る方法を知っていれば、月に数千ドルの広告収入を得られる。収益金はフェイスブックから直接支払われ、同国の平均月給の10倍に相当する。

https://twitter.com/riovictoire/status/1439589481896550405

 

MITテクノロジーレビューが2021年10月に初めて報じたフェイスブックの内部文書によれば、フェイスブックは2019年にはこの問題を認識していた。内部文書をまとめた元フェイスブック・データサイエンティストのジェフ・アレンは、マケドニアとコソボのクリックベイト・ファームが、こういった的確な戦術を用いて、2020年大統領選の1年前に50万人近くの米国人にリーチしていたことを発見した。こうしたファームは、インスタント・アーティクルや、フェイスブックの動画に挿入する広告に似た収益化プログラム、「広告ブレーク（Ad Breaks）」にも進出していた。報告書によれば、インスタント・アーティクルに登録されているドメインの60%もが、クリックベイト・ファームが採用するスパム的なライティング手法を使用していたという。フェイスブックとの秘密保持契約を結んだアレンは、この報告書についてコメントしていない。

社内外の調査員からの圧力にもかかわらず、フェイスブックは不正使用をなかなか抑えられなかった。その一方で、新たな収益源の開拓のため、より多くの収益化プログラムを展開していった。動画用広告ブレークのほか、インスタグラムの「IGTV収益化」プログラムや、ライブ動画用のインストリーム広告などだ。「フェイスブックはユーザー数を増やすために無謀なことをしてきましたが、今はパブリッシャー数を増やすために無謀なことをしています」というのは、ミャンマーをはじめとするグローバル・サウスの国々でプラットフォームによる被害と闘うデジタルライツ研究者のヴィクトワール・リオだ。

MITテクノロジーレビューは、この問題が今や世界規模で起こっていることを発見した。数千ものクリックベイト事業者が誕生しているが、それはフェイスブックからの報酬が他の仕事より大きく安定した収入源となる国に多い。数人で運営している事業者もいれば、個人事業主もいて、安価な自動化ツールを使って大量の記事を作成・配信している。こういった事業者は、記事を投稿するだけではない。ライブ配信をしたり、インスタグラムのアカウントを運営したりして、直接収益を得たり、サイトへのトラフィックを増やしたりしている。

グーグルもまた非難に値する。グーグルの「アドセンス（AdSense）」プログラムは、2016年の大統領選挙を前にした米国ユーザーをターゲットにしたマケドニアやコソボに拠点を置く事業者たちを煽った。アドセンスはまた、新たなクリックベイト・アクターが常軌を逸したコンテンツや誤報をユーチューブ（YouTube）上で拡散させる誘因となっている。

現在、多くのクリックベイト・ファームが、インスタント・アーティクルとアドセンスの両方から収益を上げ、売上金を受け取っている。また、フェイスブックとユーチューブのアルゴリズムが、ユーザーがエンゲージするものを何でもかんでも拡散するため、一方のプラットフォームで拡散されたコンテンツが他方のプラットフォームでも再利用され、配信と収益の最大化を図るという情報の生態系を形成している。

リオは、「フェイスブックやグーグルのプラットフォームがなければ、こういったアクターは存在しなかったでしょう」と語る。

メタ（フェイスブックの現在の社名）のジョー・オズボーン広報責任者は、MITテクノロジーレビューがこういった行為の詳細な証拠を各社に提供したことを受け、MITテクノロジーレビューは問題を誤解していると調査結果の核心に異議を唱えた。「いずれにせよ、メタはこういった複雑な問題に対し、長年にわたり資金を投じて、専門家主導で拡張性のある新しいソリューションを構築してきました。今後も継続します」（オズボーン広報責任者）。

一方、グーグルは、誤報を広めているとMITテクノロジーレビューが特定したすべてのユーチューブ・チャンネルが同社のポリシーに違反していると確認し、チャンネルを削除した。「当社は全プラットフォームにおけるクリックベイトや誤解を招くようなコンテンツから視聴者を守るための取り組みを強化しており、信頼できる情報の価値を高めるため、多額のシステム投資をしています」と、ユーチューブのアイビー・チョイ広報責任者は述べた。

クリックベイト・ファームがターゲットにしているのは、自国だけではない。マケドニアやコソボのアクターの後に続いた最近の運営者は、政治的憤りを収入に変えるには、その国独自の情況や言語を理解しなければならないことに気づいた。

MITテクノロジーレビューは、プラットフォームの乱用を研究する非営利団体であるインテグリティ・インスティチュート（Integrity Institute）を率いるアレンと共に、フェイスブック上でクリックベイトをしている可能性のあるアクターを特定した。私たちは、カンボジアとベトナムで運営されているページに注目した。いずれの国でも、クリックベイト運営者がミャンマー情勢から収益をあげている。

私たちは、2021年初めに開発チームが解散した「クラウド・タングル」と、フェイスブックの「パブリッシャーリスト」からデータを入手した。パブリッシャーリストには、収益化プログラムに登録されているパブリッシャーが記載されている。アレンは、独自のクラスタリング・アルゴリズムを作成し、緊密に連携して投稿されているページや、事業拠点の国外で主に使用されている言語の話者をターゲットにしているページを見つけ出した。その後、私たちは収益化プログラムに登録されているページが1つ以上あるクラスタ、または収益化プログラムに登録されているページのコンテンツを大きく宣伝しているクラスタを分析した。

結果、カンボジアとベトナムで2000以上のページがこういったクリックベイト的行為をしていることが判明した（クラウド・タングルではすべてのフェイスブックページを追跡しているわけではないため、この数字は過小評価されている可能性がある）。多くは数百万人のフォロワーを持っている。リーチしているユーザー数はさらに多いだろう。アレンは2019年のレポートで、マケドニアやコソボのファームによるクリックベイト的なコンテンツを目にしたユーザーの75％は、そのページを一度もフォローしたこ …

人気の記事ランキング

1. Google’s new Project Astra could be generative AI’s killer app 世界を驚かせたグーグルの「アストラ」、生成AIのキラーアプリとなるか
2. These AI Minecraft characters did weirdly human stuff all on their own マイクラ内に「AI文明」、 1000体のエージェントが 仕事、宗教、税制まで作った
3. Google’s new Project Astra could be generative AI’s killer app 世界を驚かせたグーグルの「アストラ」、生成AIのキラーアプリとなるか
4. We saw a demo of the new AI system powering Anduril’s vision for war オープンAIと手を組んだ 防衛スタートアップが目指す 「戦争のアップデート」