米国国防総省（DoD）は、人工知能（AI）技術を使って制作されたリベンジ・ポルノやフェイク・ニュースを見抜くための初めての鑑識（フォレンジック）ツールを開発した。
鑑識の専門家らは、機械学習で合成したり編集したりした映像を検出する方法を見つけるのに躍起になっている。機械学習を利用すれば、非常に簡単に、本物と見分けがつかないねつ造映像を制作できるからだ。こうしたねつ造映像を悪用すれば、デマを流したり他人に嫌がらせをしたりできる。
ねつ造映像を制作する際に最も一般的な手法として、機械学習を利用してある人物の顔を別の人物の顔にすり替えるというものがある。こうして作り出された映像は「ディープフェイク」と呼ばれる。ディープフェイクの制作は非常に簡単だ。しかも驚くほど本物そっくりになる。手慣れた映像編集者がさらに微調整すると、本物以上とさえ見える映像が作り出されてしまう。
映像で人を騙すには生成モデリング（Generative Modeling）と呼ばれる機械学習の手法が使われる。コンピューターに現実のデータを学習させてから、統計的に類似した偽のデータ・サンプルを生成させる手法である。この手法に最近、「競争式生成ネットワーク（GAN: Generative Adversarial Networks）」と呼ばれる2つのニューラル・ネットワークを共に働かせるという工夫が加えられ、本物とさらに見分けがつかない偽のデータが生成可能になった（「イアン・グッド …