AI同士の騙し合い、
GANが作り出すフェイクに
米軍は勝てるのか？

人工知能（AI）はフェイクニュース問題の解決に役立つだろうか？ 米軍はあまり確信がないようだ。

米国防総省はAIによって作られた映像や音声を見抜くプロジェクトに投資している。AIが生成する映像や音声はますます本物そっくりになっており、別のAIシステムを使って本物かどうかを区別するのは難しいかもしれない。

この夏、米国国防先端研究計画局（DARPA）が資金を提供したプロジェクトにデジタル・フォレンジック（法医学、科学捜査）の専門家が集まり、AIによるデータ偽造データ生成コンテストが開催される。このコンテストで、専門家はAIを使って最も本物らしい偽造映像や画像、音声の生成を目指して競い合い、それらの偽造データを自動検出するツールの開発にも取り組む。

コンテストには、動画の人物の顔を別の人物の顔にすげ替える「ディープフェイク（Deepfakes）」も含まれる。容易に想像がつくように、この技術はすでにセレブの出演を謳ったポルノ動画の偽造に数多く用いられており、政治家がとんでもないことを口にしたり、不適切な行動をとったりする動画の作成にも利用できる。

DARPAの技術者は、AIによって生成された偽造データの自動検出をほぼ不可能にしてしまう、比較的新しいAI手法に関して特に大きな懸念を抱いている。競争式生成ネットワーク（GAN: Generative Adversarial Networks）として知られるこの手法によって、驚くほど本物のような偽造画像を生成できるのだ。

https://www.youtube.com/watch?v=cQ54GDm1eL0

プロジェクトを統括するDARPAのデヴィッド・ガニングプ技術責任者は「理論上、私たちが知る限りのあらゆる検出手法をGANに適用しても、GANはそのすべてをすり抜けてしまうかもしれません」と語る。「どこかで阻止できるかもしれませんが、分かりません」。

GANは2つの要素で構成されている。1つは「アクター（俳優）」と呼ばれるもので、画像や動画などのデータ・セットから統計的パターンを学習し、本物そっくりの合成データを生成しようとする。 …

人気の記事ランキング

1. What is vibe coding, exactly? バイブコーディングとは何か？ AIに「委ねる」プログラミング新手法
2. A Google Gemini model now has a “dial” to adjust how much it reasons 推論モデルは「考えすぎ」、グーグルがGeminiに調整機能
3. Meet the researchers testing the “Armageddon” approach to asteroid defense 惑星防衛の最終戦略 科学者たちが探る 「核爆発」研究の舞台裏
4. Anthropic can now track the bizarre inner workings of a large language model 大規模言語モデルは内部で 何をやっているのか？ 覗いて分かった奇妙な回路

▼Promotion