新型コロナウイルス感染症（COVID-19）によるパンデミックが始まって以来、私が所長を務めるハーバード・ケネディスクール・ショーレンスタイン・センターのテクノロジー・社会変動リサーチ・プロジェクトでは、新型コロナウイルス感染症に関するデマ、詐欺、陰謀がオンラインでどのように出回っているかを調査してきた。詐欺師が善良な個人を騙すためにウイルスを利用しているのならば、私たちはこうした詐欺師に対抗する術を理解してもらう研究に力を入れたいと考えた。私たちが発見したのは、「ゾンビ・コンテンツ」の爆発的な拡散が混乱を招いている、ということだ。
2020年4月には、中国が新型コロナウイルス感染症に関する重要な情報を隠蔽しているという陰謀を公開したWebサイトが、テキサス大学オースティン校で情報研究に関わるアメリア・アッカー助教授の指摘によって注目された。
もともとは「ニュースNT（News NT）」 という、それらしいWebサイトへの投稿であり、中国では2100万人が新型コロナウイルス感染症で死亡したとする内容だったが、その話の真偽はすぐに暴かれた。フェイスブック傘下のソーシャルモニタリング・ツール「クラウドタングル（CrowdTangle）」によると、元の投稿は人気がなくフェイスブックでのインタラクション（閲覧や反応）は520件、シェアは100件だけだった。フェイスブックはこのコンテンツにファクトチェック・ラベルを付けた。これにより、ニュースと検索のランキングがアルゴリズムによって制限される。しかし、情報流通の仕組みには別の問題があった。
元のページがフェイクニュースを広めることはできなかったが、インターネット・アーカイブである「ウェイバック・マシン（Wayback Machine）」に保存されたページが、フェイスブックで広範囲に閲覧されたのだ。 ウェイバック・マシンのリンクは、64万9000件のインタラクションと11万8000件のシェアを獲得し、正当な報道機関よりもはるかに大きな反応を獲得した。フェイスブックはその後、ウェイバック・マシンに掲載されたリンクにもファクトチェック・ラベルを付けたが、それはすでにページが何度も閲覧された後だった。
この隠れたバイラリティ（拡散）については、いくつかの説明が可能だ。ウェイバック・マシンのようなインターネット・アーカイブを利用して、自国におけるドメインのブロックを回避する者もいるが、それは単に検閲を逃れるためだけではない。コンテンツのファクトチェックと、アルゴリズムによる制限を回避しようとする者もいるのだ。
ウェイバック・マシンに掲載されたフェイクニュースのリンクをフェイスブック上でシェアしたのは、ほとんどが米国の右翼グループやその関連Webページ、およびパキスタンや東南アジアにおける中国に批判的なグループや関連Webページによるものだった。ウェイバック・マシンにおけるニュースNTのリンクでもっとも多いやり取りには、「トランプを2020年の大統領に（Trump for President 2020）」という、ブライアン・コルファージュによって管理されているフェイスブックの公開グループが関与していた。コルファージュは、論争の的となっている「壁を築こう（We Build the Wall）」という非営利団体の背後にいる人物として名高い。「壁を築こう」のページは、「キーワード・スクワット」と呼ばれる手法を使い、トランプ大統領に関心を持つ人々をメンバーに呼び込もうとした。現在24万人近くのメンバーを抱えており、グループ名を当初の「PRESIDENT DONALD TRUMP [OFFICIAL]）」から「President Donald Trump ✅ [OFFICIAL]」に変更した後、「The Deplorable’s ✅」に名を変え、最終的には「Trump For President 2020」へと変更している。トランプ大統領の「公式」ページだと主張し、偽のチェック・マークを使用することで、すでに二極化している市民の間で信頼を得ている。
隠れたバイラリティについて、より多くの証拠を探り出すため、私たちはさまざまなプラットフォーム上で「web.archive.org」を探した。驚くことなかれ、誤った健康情報を広めたとして取り下げられたミディアム（Medium）上の投稿は、ウェイバック・マシンのリンクを通じて生き延びていた。誤解を招きかねない健康情報だとしてミディアムの規則に違反して削除された記事「新型コロナウイルス感染症は笑われ全員を騙したが、ようやくその秘密を見抜いたかもしれない」は、フェイスブック上で6000件のリアクションと1200件のシェアを獲得した。だが、アーカイブはそれにも増して非常に人気があり、160万件のインタラクション、31万件のシェアを獲得。数字はまだ増え続けている。このゾンビ・コンテンツは、ほとんどの主流メディアのニュース記事よりも多く参照されているが、アーカイブされた記録としてのみ存在するものだ。
おそらく私のような研究者が最も注意すべき点は、これらの有害なデマがフェイスブック上の非公開ページやグループに浸透していることだ。これは、人々がやり取りするデータの2%未満にしか研究者がアクセスできないことを意味し、ジャーナリストや独立研究者、公衆衛生に関わる者が虚偽の内容を指摘したり、事実を主張して訂正できないまま、誤った健康情報が流通してしまうことを意味する。重要なのは、こうしたインターネット・アーカイブにおける記録がなければ、そもそも削除コンテンツに関する調査ができないし、その一方で、アーカイブ・システムも自身のサービスにおけるデマに対処する必要があることだ。
ワッツアップ（Whatsapp）が普及している地域では、隠れたバイラリティが高まっている。暗号化されたチャネルを介してデマを転送すれば、運営者によるコンテンツの確認を容易に回避できるからだ。また、誤った健康情報について、フェイスブックで隠れたバイラリティが起きると、特に混乱を招きやすい。米国人の50%以上がフェイスブックのニュースに依存しているが、長年の懸念と不満を経た今でも、研究者はデータに対する非常に限られたアクセスしか許されていない。これは非公開ページやグループで、健康上の誤った情報がどのように共有されているかを倫理的に調査することが、ほとんど不可能であることを意味する。
こうしたすべてのことは、単に政治的またフェイクニュースであるといった範囲を超え、公衆衛生の脅威になり得るものだ。人々が誤った医学的アドバイスによって、すぐに行動してしまうからだ。
私はこの10年間、プラットフォームにおける政治学を研究してきたが、Webやソーシャル・メディア全体に広がる野放しの有害コンテンツによって引き起こされる社会への損害を、ここまで目にしたことはない。あなたが健康維持に気をつけたいならば、すぐにソーシャルメディア企業に情報の責任を持つよう働きかける必要がある。一方、ソーシャルメディア企業は、レコメンデーションの成功と健全なニュースフィードを、尊重、尊厳、生産的な社会的価値の最大化と定義し、それを戦略的に増幅する手段を作るべきだ。特に人命に関わるような場合には、独立研究者と文献管理の専門家によって信頼できるコンテンツを特定する必要がある。