AI同士の騙し合い、
GANが作り出すフェイクに
米軍は勝てるのか？

人工知能（AI）はフェイクニュース問題の解決に役立つだろうか？ 米軍はあまり確信がないようだ。

米国防総省はAIによって作られた映像や音声を見抜くプロジェクトに投資している。AIが生成する映像や音声はますます本物そっくりになっており、別のAIシステムを使って本物かどうかを区別するのは難しいかもしれない。

この夏、米国国防先端研究計画局（DARPA）が資金を提供したプロジェクトにデジタル・フォレンジック（法医学、科学捜査）の専門家が集まり、AIによるデータ偽造データ生成コンテストが開催される。このコンテストで、専門家はAIを使って最も本物らしい偽造映像や画像、音声の生成を目指して競い合い、それらの偽造データを自動検出するツールの開発にも取り組む。

コンテストには、動画の人物の顔を別の人物の顔にすげ替える「ディープフェイク（Deepfakes）」も含まれる。容易に想像がつくように、この技術はすでにセレブの出演を謳ったポルノ動画の偽造に数多く用いられており、政治家がとんでもないことを口にしたり、不適切な行動をとったりする動画の作成にも利用できる。

DARPAの技術者は、AIによって生成された偽造データの自動検出をほぼ不可能にしてしまう、比較的新しいAI手法に関して特に大きな懸念を抱いている。競争式生成ネットワーク（GAN: Generative Adversarial Networks）として知られるこの手法によって、驚くほど本物のような偽造画像を生成できるのだ。

https://www.youtube.com/watch?v=cQ54GDm1eL0

プロジェクトを統括するDARPAのデヴィッド・ガニングプ技術責任者は「理論上、私たちが知る限りのあらゆる検出手法をGANに適用しても、GANはそのすべてをすり抜けてしまうかもしれません」と語る。「どこかで阻止できるかもしれませんが、分かりません」。

GANは2つの要素で構成されている。1つは「アクター（俳優）」と呼ばれるもので、画像や動画などのデータ・セットから統計的パターンを学習し、本物そっくりの合成データを生成しようとする。 …

人気の記事ランキング

1. AI crawler wars threaten to make the web more closed for everyone 失われるWebの多様性——AIクローラー戦争が始まった
2. Promotion Innovators Under 35 Japan × CROSS U 好評につき第2弾！研究者のキャリアを考える無料イベント【3/14】
3. From COBOL to chaos: Elon Musk, DOGE, and the Evil Housekeeper Problem 米「DOGE暴走」、政府システムの脆弱性浮き彫りに
4. What a major battery fire means for the future of energy storage 米大規模バッテリー火災、高まる安全性への懸念
5. A new Microsoft chip could lead to more stable quantum computers マイクロソフト、初の「トポロジカル量子チップ」　安定性に強み

▼Promotion