AI同士の騙し合い、
GANが作り出すフェイクに
米軍は勝てるのか？

人工知能（AI）はフェイクニュース問題の解決に役立つだろうか？ 米軍はあまり確信がないようだ。

米国防総省はAIによって作られた映像や音声を見抜くプロジェクトに投資している。AIが生成する映像や音声はますます本物そっくりになっており、別のAIシステムを使って本物かどうかを区別するのは難しいかもしれない。

この夏、米国国防先端研究計画局（DARPA）が資金を提供したプロジェクトにデジタル・フォレンジック（法医学、科学捜査）の専門家が集まり、AIによるデータ偽造データ生成コンテストが開催される。このコンテストで、専門家はAIを使って最も本物らしい偽造映像や画像、音声の生成を目指して競い合い、それらの偽造データを自動検出するツールの開発にも取り組む。

コンテストには、動画の人物の顔を別の人物の顔にすげ替える「ディープフェイク（Deepfakes）」も含まれる。容易に想像がつくように、この技術はすでにセレブの出演を謳ったポルノ動画の偽造に数多く用いられており、政治家がとんでもないことを口にしたり、不適切な行動をとったりする動画の作成にも利用できる。

DARPAの技術者は、AIによって生成された偽造データの自動検出をほぼ不可能にしてしまう、比較的新しいAI手法に関して特に大きな懸念を抱いている。競争式生成ネットワーク（GAN: Generative Adversarial Networks）として知られるこの手法によって、驚くほど本物のような偽造画像を生成できるのだ。

https://www.youtube.com/watch?v=cQ54GDm1eL0

プロジェクトを統括するDARPAのデヴィッド・ガニングプ技術責任者は「理論上、私たちが知る限りのあらゆる検出手法をGANに適用しても、GANはそのすべてをすり抜けてしまうかもしれません」と語る。「どこかで阻止できるかもしれませんが、分かりません」。

GANは2つの要素で構成されている。1つは「アクター（俳優）」と呼ばれるもので、画像や動画などのデータ・セットから統計的パターンを学習し、本物そっくりの合成データを生成しようとする。 …

人気の記事ランキング

1. What’s on the table at this year’s UN climate conference トランプ再選ショック、開幕したCOP29の議論の行方は？
2. Google DeepMind has a new way to look inside an AI’s “mind” AIの「頭の中」で何が起きているのか？ ディープマインドが新ツール
3. Google DeepMind has a new way to look inside an AI’s “mind” AIの「頭の中」で何が起きているのか？ ディープマインドが新ツール
4. This AI-generated Minecraft may represent the future of real-time video generation AIがリアルタイムで作り出す、驚きのマイクラ風生成動画