KADOKAWA Technology Review
×
12/16開催 「再考ゲーミフィケーション」イベント参加受付中!
生成AIの脅威は杞憂だった? 欧州選挙で見えた意外な現実
Artur Widak/NurPhoto via AP
AI-generated content doesn’t seem to have swayed recent European elections 

生成AIの脅威は杞憂だった? 欧州選挙で見えた意外な現実

生成AIによる偽情報やディープフェイクが選挙の結果に影響を及ぼすことが懸念されているが、最新の研究によると現時点ではその心配はなさそうだ。だが、将来的に影響を与える可能性は依然としてあると研究者らは指摘する。 by Melissa Heikkilä2024.09.20

この記事の3つのポイント
  1. AIによる偽情報は今年の欧州の選挙結果に大きな影響を与えなかった
  2. AIは既存の見解を強化し政治家への嫌がらせや混乱を引き起こすのに効果的
  3. 政治家による生成AIの秘密裏の利用は政治プロセスの整合性を脅かす可能性
summarized by Claude 3

新しい研究によると、人工知能(AI)が生成した偽情報やディープフェイクは今年、英国、フランス、欧州議会における選挙結果にほとんど影響を与えなかったようだ。

生成Aブームが始まって以来、悪意ある行為者がAIツールを用いてフェイク・コンテンツを拡散能力を高め、選挙に干渉したり、結果に影響を与えたりする可能性が懸念されてきた。70カ国以上で数十億人が投票することが見込まれた今年は、そうした懸念が特に高まっていた。

だが、懸念は杞憂だったようだと、今回の研究を実施したアラン・チューリング研究所(Alan Turing Institute)のサム・ストックウェル研究員は言う。ストックウェル研究員は2024年5月から8月までの4カ月間、3つの選挙に焦点を当て、AIの悪用に関する公的な報告書やニュース記事のデータを収集した。英国の総選挙中に拡散したAIによる偽情報またはディープフェイクの事例を16件、欧州連合(EU)およびフランスの選挙で事例を合計11件特定したが、いずれも結果を明確に左右するものではなかった。偽のAIコンテンツは、国内の当事者とロシアなどの敵対国とつながりのあるグループの両方によって作成されていた。

これらの調査結果は、選挙干渉に注目することが、民主主義に対するより深刻で長期的な脅威から目をそらさせることになるという専門家の最近の警告と一致している。

AI生成コンテンツは、今年これまでのところ、ほとんどの欧州の選挙では、デマ拡散ツールとしては効果的ではなかったようだ。これは、デマにさらされた人々の大半が、その背後にあるメッセージ(例えば、自国への移民が多すぎるというような)をすでに信じていたためだと、ストックウェル研究員は言う。ストックウェル研究員の分析によると、ディープフェイク・メッセージを積極的に再共有して拡散していた人々は、その内容と一致する何らかの団体と関わりがあったか、同じような意見をそれまでに表明していた。そのため、このような材料は、投票先を決めていない有権者に影響を与えるというよりも、既存の見解を強化した可能性が高い。

ボットによるコメント欄の大量投稿や、インフルエンサーを悪用した偽情報の拡散など、十分に試行を重ねた選挙干渉戦術は、依然としてはるかに効果的であった。悪意のある行為者の多くは、ニュース記事を自分たちに都合が良いように書き換えるため、あるいは、デマ拡散を目的にしたオンライン・コンテンツをさらに作成するために、生成AIを使用していた。

「AIは今のところ、それほど大きな優位性をもたらしていません。なぜなら、誤った情報や誤解を招く情報を作成する既存のより単純な方法が依然として広く使われているからです」。ロイタージャーナリズム研究所(Reuters Institute for Journalism)の研究員で、この研究には関与していないフェリックス・サイモンは言う。

しかし、偽情報に詳しいピッツバーグ大学のサミュエル・ウーリー准教授は、現段階ではAIが選挙に与える影響について確固たる結論を出すのは難しいと言う。その理由の一つは、十分なデータがないことだ。

「市民の政治参加を変えるこれらのツールの使用に関連する下流工程における影響はあまり明白ではなく、追跡が困難です」と、ウーリー准教授は付け加える。

ストックウェル研究員も同意見だ。これらの選挙から得られた初期のエビデンスは、AI生成コンテンツは人々の意見を大規模に変えるよりも、政治家への嫌がらせや混乱の種をまくのに効果的である可能性を示している。

英国の政治家、例えばリシ・スナク前首相などは、たとえば、詐欺を宣伝したり、金銭的な汚職を認めたりするようなAIディープフェイクの標的となった。女性候補者も、名誉毀損や脅迫を目的とした、同意のない性的なディープフェイク・コンテンツの対象となった。

「もちろん、長期的に見れば、政治家の候補者がネット嫌がらせ、殺害予告、ディープフェイクによるポルノスキャンダルなどの被害に遭うことが増えれば、将来の選挙への参加意欲を削ぐという現実的な影響が出るだけでなく、明らかに候補者たちの幸福を損なうことにもなります」とストックウェル研究員は言う。

恐らくより心配なのは、人々が選挙の文脈において、本物とAI生成コンテンツの違いを識別できなくなっていることが研究で示されていることだと、ストックウェルは言う。政治家もそのことを利用している。たとえば、フランスの欧州議会選挙の政治候補者たちは、AIで生成されたコンテンツを共有し、反移民のナラティブを増幅しているが、そのコンテンツがAIで生成されたものであることを開示していない。

「この秘密裏に実行される関与は、透明性の欠如と相まって、政治プロセスの整合性にとって潜在的に大きなリスクとなる可能性があると私は見ています。一般市民やいわゆる『悪意のある行為者』によるAIの利用よりも深刻です」と、サイモンは言う。

人気の記事ランキング
  1. Promotion MITTR Emerging Technology Nite #31 MITTR主催「再考ゲーミフィケーション」開催のご案内
  2. 3 things that didn’t make the 10 Breakthrough Technologies of 2025 list 2025年版「世界を変える10大技術」から漏れた候補3つ
  3. OpenAI’s new defense contract completes its military pivot オープンAIが防衛進出、「軍事利用禁止」から一転
メリッサ・ヘイッキラ [Melissa Heikkilä]米国版 AI担当上級記者
MITテクノロジーレビューの上級記者として、人工知能とそれがどのように社会を変えていくかを取材している。MITテクノロジーレビュー入社以前は『ポリティコ(POLITICO)』でAI政策や政治関連の記事を執筆していた。英エコノミスト誌での勤務、ニュースキャスターとしての経験も持つ。2020年にフォーブス誌の「30 Under 30」(欧州メディア部門)に選出された。
▼Promotion 再考 ゲーミフィケーション
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。2024年受賞者決定!授賞式を11/20に開催します。チケット販売中。 世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を随時発信中。

特集ページへ
MITTRが選んだ 世界を変える10大技術 2024年版

「ブレークスルー・テクノロジー10」は、人工知能、生物工学、気候変動、コンピューティングなどの分野における重要な技術的進歩を評価するMITテクノロジーレビューの年次企画だ。2024年に注目すべき10のテクノロジーを紹介しよう。

特集ページへ
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る