米軍が鑑識ツールを開発
「フェイク動画」戦争
第二幕が始まった
人工知能(AI)を利用することで、本物と見まがうほどの出来のねつ造映像を簡単に作れるようになった。研究者たちはねつ造を見抜くツールの開発に躍起になっており、ねつ造映像制作者との間で今後、AIが後押しする激しい「軍拡競争」競争が勃発するかもしれない。 by Will Knight2018.08.09
米国国防総省(DoD)は、人工知能(AI)技術を使って制作されたリベンジ・ポルノやフェイク・ニュースを見抜くための初めての鑑識(フォレンジック)ツールを開発した。
鑑識の専門家らは、機械学習で合成したり編集したりした映像を検出する方法を見つけるのに躍起になっている。機械学習を利用すれば、非常に簡単に、本物と見分けがつかないねつ造映像を制作できるからだ。こうしたねつ造映像を悪用すれば、デマを流したり他人に嫌がらせをしたりできる。
ねつ造映像を制作する際に最も一般的な手法として、機械学習を利用してある人物の顔を別の人物の顔にすり替えるというものがある。こうして作り出された映像は「ディープフェイク」と呼ばれる。ディープフェイクの制作は非常に簡単だ。しかも驚くほど本物そっくりになる。手慣れた映像編集者がさらに微調整すると、本物以上とさえ見える映像が作り出されてしまう。
映像で人を騙すには生成モデリング(Generative Modeling)と呼ばれる機械学習の手法が使われる。コンピューターに現実のデータを学習させてから、統計的に類似した偽のデータ・サンプルを生成させる手法である。この手法に最近、「競争式生成ネットワーク(GAN: Generative Adversarial Networks)」と呼ばれる2つのニューラル・ネットワークを共に働かせるという工夫が加えられ、本物とさらに見分けがつかない偽のデータが生成可能になった(「イアン・グッド …
- 人気の記事ランキング
-
- What is vibe coding, exactly? バイブコーディングとは何か? AIに「委ねる」プログラミング新手法
- A Google Gemini model now has a “dial” to adjust how much it reasons 推論モデルは「考えすぎ」、グーグルがGeminiに調整機能
- Meet the researchers testing the “Armageddon” approach to asteroid defense 惑星防衛の最終戦略 科学者たちが探る 「核爆発」研究の舞台裏
- Anthropic can now track the bizarre inner workings of a large language model 大規模言語モデルは内部で 何をやっているのか? 覗いて分かった奇妙な回路