主張：生成AIを使ったプロパガンダ工作、AI企業は実態公表を

オープンAIは5月末に、同社の生成AIツールを利用したプロパガンダ活動の事例を公開した。これらの活動は実際にはさほど影響力がなかったとしているが、こうしたレポートの公開は今後、データ共有と併せて、業界の標準となるべきだ。 by Renée DiResta2024.06.11

この記事の3つのポイント

オープンAIとメタは、ロシアや中国が自社のAIで影響工作を行っていたことを明らかにした
敵対勢力によるAIの悪用は懸念されるが、現時点ではAIコンテンツの影響力は限定的
AIの悪用に対抗するには、企業の透明性向上、データ共有、ユーザーの意識向上が重要

summarized by Claude 3

5月末、オープンAI（OpenAI）は企業史上、また新たに「一番」になった。それは、さらに強力な言語モデルや新たなデータ提携ではなく、悪意のある人物がオープンAIの製品を利用して影響工作をしていたことを明らかにしたレポートだった。オープンAIは、ロシア、中国、イラン、イスラエルなどの組織を含む、5つの秘密プロパガンダ・ネットワークを摘発した。これらのネットワークは、複数の言語で大量のソーシャルメディア・コメントを作成したり、ニュース記事をフェイスブックの投稿に変えたりするなど、偽装作戦にオープンAIの生成AI（ジェネレーティブAI）ツールを使用していた。オープンAIは、これらのツールの使用目的は、出力の質と量を向上させることにあるようだと指摘した。人工知能（AI）はプロパガンダをする者の生産性も高めるということだ。

何よりもまず、このレポートと、願わくはこれによってできる先例について、オープンAIは称賛されるべきだ。研究者は、敵対的な人物が、特に大規模言語モデルなどの生成AIテクノロジーを採用し、低コストで取り組みの規模と質を向上させると、長い間予想してきた。それが実際に起こり始めていること、そして、オープンAIがこれを検知し、影響緩和のためにアカウントを閉鎖することに優先的に取り組んでいることを、透明性を持って開示したことは、少なくとも1つの大手AI企業が、2016年の米国大統領選挙におけるロシアの干渉事件を受けてソーシャルメディア・プラットフォームが苦悩してきたことから、何かしらのことを学んだことを示している。2016年の事件では、悪用が明らかになったとき、フェイスブック、ユーチューブ（YouTube）、ツイッター（現X）は健全性チームを結成し、自社のプラットフォームにおける影響工作について定期的に開示し始めた（Xは、イーロン・マスクによる買収後、この活動を中止した）。

実際、オープンAIの開示は、わずか1日前に発表されたメタの同じようなレポートをまさに思い起こさせるものだった。2024年第1四半期のメタの透明性レポートでは、同社のプラットフォーム上で6つの秘密工作が削除されたことが明らかにされた。このレポートでも、中国、イラン、イスラエルと関係のあるネットワークが発見され、AI生成コンテンツの使用が指摘された。中国のプロパガンダ活動家は、AIが生成したと思われる「架空のシーク教徒活動家の運動」のポスターのようなものを共有していた。イスラエルに拠点を置く政治マーケティング会社は、AIが生成したと思われるコメントを投稿していた。メタのレポートでは、非常に執拗なロシアの危険人物が依然として活発に活動しており、その戦略が進化していることも指摘している。おそらく最も重要なのは、メタが「業界によるより強力な対応をするための推奨事項」を直接提示し、政府、研究者、その他のテック企業が協力して脅威情報を共有し、現在進行しているロシアのキャンペーンの妨害に役立てることを呼びかけたことだろう。

筆者ら2人も、長年にわたりオンライン上の影響工作について研究してきた。私たちは、時にはプラットフォームと協力しながら、協調的な活動に関する調査結果を公表し、AIツールがプロパガンダ・キャンペーンの展開にどのような影響を与えるかを分析してきた。私たちのチームの査読付き研究論文では、言語モデルは、人間が書いたプロパガンダキャンペーンとほぼ同等の説得力を持つテキストを生成できることを明らかにした。私たちは、あらゆるソーシャルプラットフォーム上で、世界のあらゆる地域を対象とした影響工作が拡大し続けているのを目にしてきた。影響工作は、プロパガンダというゲームにおいて、今や必須の要素となっている。国家の敵や金目当ての広報会社は、ソーシャルメディア・プラットフォームとそのリーチ力に惹きつけられている。特に、独裁政権にとっては …

こちらは会員限定の記事です。 メールアドレスの登録で続きを読めます。

有料会員にはメリットがいっぱい！

毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
重要テーマが押さえられる。
各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。

人気の記事ランキング