ヘレン・モルトは耳を疑った。彼女の裸の写真がポルノサイトに掲載されていると、知人から聞かされたのだ。だが、彼女は人生で一度も性的な写真を撮影したりシェアしたことはなかった。きっと何かの間違いではないだろうか？ なんとか勇気を出してその写真を確認した彼女は、恐怖と屈辱を感じた。
英国シェフィールド在住の詩人でブロードキャスターであるモルトは、フェイクポルノの被害者だった。彼女が最もショックを受けたのは、そうした画像が、彼女がすでに削除していたフェイスブックのプロフィール画像を含め、2017年から2019年にかけて彼女がプライベートなソーシャルメディア・アカウントに投稿していた写真をベースにしていたことだった。
加害者はそうした非性的な写真（モルトの休暇中の写真や妊娠中の写真、さらには10代の頃の写真までがあった）をアップロードし、他のユーザーに彼女の顔を暴力的なポルノ写真に差し替えるよう促していた。フォトショップによる粗雑なものもあったが、中には身も凍るようなリアルなものもあった。何が起こったのか調査を始めたモルトは、「ディープフェイク」という新たな言葉を知った。ディープフェイクとは、人工知能（AI）によって生成・操作されたメディア（画像・動画）を指す。
「鼻を折られたような気分で、本当に無力感を感じさせられます」とモルトは言う。「公の場で発言する女性である、という理由でひどい目にあわされたというのが、自分としては一番しっくりくる説明です。『ほら見ろ。自分たちはいつでもお前にこういうことをできるんだぞ』、と」。
事実の発覚を受けてモルトは支援を求めたが、その過程は苛立たしいものとなった。警察に連絡したが、警官は自分たちにできることは何もないと言った。Webから完全に姿を消すことも考えたが、彼女の仕事にとってWebは欠かせないものだった。
また、モルトにはこの投稿をしたのが誰なのか分からなかった。彼女は自分が親しいと考えている人間の仕業ではないかと考えて恐ろしくなった。モルトは全ての人間を疑い始めた。だが、最も辛かったのは、元夫を疑い始めてしまったことだった。彼らは良き友人同士だったが、加害者は仮名に彼のファーストネームを使っていた。「彼ではない――絶対にありえません。でも本当に悲しいことです」とモルトは話す。「そもそもそんなことを考え始めてしまったという事実が、自分の現実の全てを疑い始めている兆候でした」。
ディープフェイクは、潜在的な政治的危険性に関して大きな注目を集めているが、圧倒的多数は女性を標的にして利用されている。2018年12月からオンラインのディープフェイク映像の追跡をしている調査会社のセンシティAI（Sensity AI）は、ディープフェイク映像の90%から95%が合意のないポルノであることを一貫して発見してきた。そのうちの約90%は、合意のない女性たちのポルノだ。テクノロジーを利用した虐待に関する啓蒙活動をしている非営利団体「エンドタブ（EndTAB）」の創設者であるアダム・ダッジは、「これは女性に対する暴力の問題です」と言う。
結果的に、こうした侵害行為はリベンジポルノ（同意なく公開された、本物の性的な写真のこと）と同様に、被害者の破滅を招く可能性がある。ディープフェイクのポルノ画像が被害者にどのような損害をもたらすかについては、十分な立証がある。被害者が名前を変えざるを得なくなるケースもあれば、インターネットから完全に自分を消さなければならなくなったケースもあった。そうした画像がいつ再び姿を現し自分たちの人生を破滅に追い込むかわからないことから、彼女たちは再び心に傷を負わされるのではないかと恐怖を常に抱えている。
幸いにも、合意のないディープフェイク・ポルノを規制しようという米国と英国の並行的な動きは勢いを増している。ディープフェイク・ポルノが注目されたことで、これまで無視されてきた、画像による別の形の性暴力を規制する動きにつながる可能性もある。長年にわたり活動家たちは、このような重大な法の隙間に関する警鐘を議員たちに鳴らしてきたが、ディープフェイクによってようやく議員たちも注目せざるを得ない状況が生まれている。
「私たちは大きな波をただ待っているだけ」
ディープフェイクはポルノと共に始まった。2017年12月、マザーボード（Motherboard）の記者であるサマンサ・コールは、レディット（Reddit）で「ディープフェイクス（deepfakes）」というハンドルネームのユーザーが、AI研究者が開発してオープンソース化した手法を用いて、ポルノ動画に女性有名人の顔を差し替えているのを発見した。コールは、次は他の女性たちが標的になると読者に警鐘を鳴らそうとした。
ディープフェイクの問題は世論の注目をいくらか集めたものの、その理由の大半はテクノロジーの新奇性によるものだった。結局のところ、有名人のフェイクポルノは何年も前からインターネット上に存在してきたのだ。だが、家庭内暴力の被害者たちと密接に関わってきた主唱者たちにとって、この技術の開発は危険を示す直接要 …