10月20日、ニュージャージー州の高校に通うフランチェスカ・マニは、校内のカウンセラー室に呼び出された。14歳のフランチェスカは、競技フェンシングに取り組む2年生で、厄介事とは無縁の生徒だったが、その日、ある噂が校内を駆け巡っていた。夏休みの間に、同校の男子生徒たちが人工知能（AI）を使って、一部のクラスメートの卑猥な写真を作成したというのだ。中には、ポルノ写真さえあったという。学校側はフランチェスカに、被害に遭った30人以上の女子のうちの1人だと告げた。
フランチェスカはその日、自分の写真を見なかった。そして、今も見るつもりはない。その代わりにフランチェスカは、もう誰もこのよう行為の標的にされないようにすることに、全力で取り組んでいる。
写真のことを知ってから24時間も経たないうちに、フランチェスカは4人の地元議員に手紙を書いて今回の事件のことを伝え、行動を起こすように依頼した。そのうちの3人はすぐに返事をくれた。ニューヨーク州選出のジョー・モレル米下院議員、ニュージャージー州選出のトム・キーン・ジュニア米下院議員、そしてニュージャージー州のジョン・ブラムニック州上院議員である。フランチェスカの働きかけは、この数週間ですでに新たな立法の動きへとつながり、米国における、同意のないディープフェイク・ポルノを規制する流れが加速している。
「あの日、私は声を上げなければならないと気づきました。あってはならないことだと、強く思ったからです」と、 フランチェスカは電話取材で話してくれた。「これはとても新しいテクノロジーです。どのようなものなのか、そしてどうやって自分の身を守ればいいのか、みんなまだよくわかっていません」。この数週間でフランチェスカは15歳の誕生日を祝っただけでなく、他のディープフェイク・ポルノ被害者にリソースを提供する新たなWebサイトも立ち上げた。
ディープフェイクとは、AIによってもっともらしく加工操作された画像であり、異なるメディアから取得した顔写真や声を入れ替えて作成されることが多い。2019年と2021年の研究報告によると、ディープフェイクは主にポルノのために利用されており、その画像に登場する人々の同意を得ていないことの方が圧倒的に多い。問題は、同意がないことだけにとどまらない。ディープフェイクは、ネット上の人々のプライバシーに関し、深刻な懸念をかき立てている。
昨年からAIツールが急速に普及し、その人気は高まり続けている。それに伴い、ディープフェイク・ポルノや、AIで画像を生成する形のセクシャルハラスメントも増加する一方だ。たとえば、9月にはスペインで、推定20人の少 …