5月末、オープンAI(OpenAI)は企業史上、また新たに「一番」になった。それは、さらに強力な言語モデルや新たなデータ提携ではなく、悪意のある人物がオープンAIの製品を利用して影響工作をしていたことを明らかにしたレポートだった。オープンAIは、ロシア、中国、イラン、イスラエルなどの組織を含む、5つの秘密プロパガンダ・ネットワークを摘発した。これらのネットワークは、複数の言語で大量のソーシャルメディア・コメントを作成したり、ニュース記事をフェイスブックの投稿に変えたりするなど、偽装作戦にオープンAIの生成AI(ジェネレーティブAI)ツールを使用していた。オープンAIは、これらのツールの使用目的は、出力の質と量を向上させることにあるようだと指摘した。人工知能(AI)はプロパガンダをする者の生産性も高めるということだ。
何よりもまず、このレポートと、願わくはこれによってできる先例について、オープンAIは称賛されるべきだ。研究者は、敵対的な人物が、特に大規模言語モデルなどの生成AIテクノロジーを採用し、低コストで取り組みの規模と質を向上させると、長い間予想してきた。それが実際に起こり始めていること、そして、オープンAIがこれを検知し、影響緩和のためにアカウントを閉鎖することに優先的に取り組んでいることを、透明性を持って開示したことは、少なくとも1つの大手AI企業が、2016年の米国大統領選挙におけるロシアの干渉事件を受けてソーシャルメディア・プラットフォームが苦悩してきたことから、何かしらのことを学んだことを示している。2016年の事件では、悪用が明らかになったとき、フェイスブック、ユーチューブ(YouTube)、ツイッター(現X)は健全性チームを結成し、自社のプラットフォームにおける影響工作について定期的に開示し始めた(Xは、イーロン・マスクによる買収後、この活動を中止した)。
実際、オープンAIの開示は、わずか1日前に発表されたメタの同じようなレポートをまさに思い起こさせるものだった。2024年第1四半期のメタの透明性レポートでは、同社のプラットフォーム上で6つの秘密工作が削除されたことが明らかにされた。このレポートでも、中国、イラン、イスラエルと関係のあるネットワークが発見され、AI生成コンテンツの使用が指摘された。中国のプロパガンダ活動家は、AIが生成したと思われる「架空のシーク教徒活動家の運動」のポスターのようなものを共有していた。イスラエルに拠点を置く政治マーケティング会社は、AIが生成したと思われるコメントを投稿していた。メタのレポートでは、非常に執拗なロシアの危険人物が依然として活発に活動しており、その戦略が進化していることも指摘している。おそらく最も重要なのは、メタが「業界によるより強力な対応をするための推奨事項」を直接提示し、政府、研究者、その他のテック企業が協力して脅威情報を共有し、現在進行しているロシアのキャンペーンの妨害に役立てることを呼びかけたことだろう。
筆者ら2人も、長年にわたりオンライン上の影響工作について研究してきた。 私たちは、時にはプラットフォームと協力しながら、協調的な活動に関する調査結果を公表し、AIツールがプロパガンダ・キャンペーンの展開にどのような影響を与えるかを分析してきた。私たちのチームの査読付き研究論文では、言語モデルは、人間が書いたプロパガンダキャンペーンとほぼ同等の説得力を持つテキストを生成できることを明らかにした。私たちは、あらゆるソーシャルプラットフォーム上で、世界のあらゆる地域を対象とした影響工作が拡大し続けているのを目にしてきた。影響工作は、プロパガンダというゲームにおいて、今や必須の要素となっている。国家の敵や金目当ての広報会社は、ソーシャルメディア・プラットフォームとそのリーチ力に惹きつけられている。特に、独裁政権にとっては …