テクノロジーで解決できない
ディープフェイク3つの問題

完璧な正確さでディープフェイクを検知する機器が、ついに誕生したと想像してみてほしい。その検知器は、どれほど繋ぎ目が無く本物っぽく見える映像であっても、人工知能（AI）によって加工されたあらゆる映像に赤く巨大な「ディープフェイク」というラベルを貼り付ける。

こうした検知器は、ディープフェイクに対抗するためにまさに必要なものに思えるかもしれない。人々はディープフェイクによって、真実の終わりがもたらされ、民主主義の死が到来するのではないかと懸念している。「完璧にリアル」に改ざんされた動画が、今後わずか6カ月以内にも登場するかもしれない。つまり、2020年の米国大統領選挙がフェイク映像の戦場になる可能性があるということだ。フェイク映像の中では、ドナルド・トランプ大統領がロシアとの買収取引を認め、エリザベス・ウォーレン上院議員が完全な銃の禁止を訴え、米大統領選の民主党有力候補であるカマラ・ハリスが白人を軽蔑する発言をしているかもしれない。

テクノロジストたちは、より多くのテクノロジーによって、ディープフェイクに対抗してきた。「メディア・フォレンジック」に関するあるプロジェクトに対し、米国政府が予算を援助しているほか、フェイスブックとマイクロソフトは先日「ディープフェイク検出チャレンジ」を発表し、グーグルはディープフェイクの巨大なデータベースを公開した。しかし、ディープフェイクは作成手法こそ新しいものの、実際に及ぼす被害、つまりデマとハラスメントは新しいものではない。そう話すのは、ディープフェイクに関するデータ＆ソサエティ研究所（Data & Society Research）の最新の報告書の共同執筆者であるラトガース大学情報学部のブリット・パリス助教授だ。完璧な正確さを誇るディープフェイク検知器は、そうした実害には対処できない。その理由を以下に挙げて行こう。

問題その1：ディープフェイク検知器は何を削除すべきで、何を削除すべきでないのかを教えてくれない

速度を落としたナンシー・ペロシ米国下院議長の映像を覚えているだろうか？ これはディープフェイクではなかったが、その映像は真実ではないものを拡散していた。この映像に対してフェイスブックは、削除しないという決定を下した。ディープフェイク検知器はそうした判断の役には立たない。「自動化された使い方が進めば進むほど、検知の不正確さや検閲につながる可能性が高まります」。セント・ジョンズ大学のプラットフォーム・ガバナンスの専門家であるケイト・クロニック助教授はそう話す。「風刺、フェイクニュース、フィクションを定義することは、非常に大きな哲学的問いです」

解決策：より良いモデレーション

社会がこうした問題に取り組まねばならないのはもちろんだが、それまでは、1つの解決策として、判断を下せる人間である「コンテンツ・モデレ …

人気の記事ランキング

1. Bringing the lofty ideas of pure math down to earth 崇高な理念を現実へ、 物理学者が学び直して感じた 「数学」を学ぶ意義
2. Google’s new Project Astra could be generative AI’s killer app 世界を驚かせたグーグルの「アストラ」、生成AIのキラーアプリとなるか
3. These AI Minecraft characters did weirdly human stuff all on their own マイクラ内に「AI文明」、 1000体のエージェントが 仕事、宗教、税制まで作った
4. AI’s search for more energy is growing more urgent 生成AIの隠れた代償、激増するデータセンターの環境負荷