Meet the 15-year-old deepfake victim pushing Congress into action

米議会を動かす、15歳のディープフェイク被害者が声を上げた理由

米国のある高校生が、ディープフェイクポルノの標的にされたことをきっかけに、議員らに働きかけてAI法の改善を提唱している。フランチェスカと母親が、今回の事件について思いを語った。 by Tate Ryan-Mosley2023.12.10

この記事は米国版ニュースレターを一部再編集したものです。

あるおぞましい事件の後、人工知能（AI）政策を巡る問題に関わることになった、人の心を動かす若い女性とその母親の話を紹介しよう。新しいテクノロジーであるAIが女性や女の子ばかりを傷つけることについて、あまり十分な関心が得られなかったり、状況を変えられなかったりすることはあまりにも多い。最近のニュースを報じる中で、私はこの問題を解決しようとする家族の姿勢に感銘を受けた。

10月、フランチェスカ・マニは、30人以上といわれているニュージャージー州のウェストフィールド高校のディープフェイク・ポルノ被害女子生徒の1人になっていた。同校の男子生徒がフランチェスカとクラスメートの写真を撮影し、AIで操作して、彼女たちの同意なしに性的な画像を作り出していたのだ（ウェストフィールド高校はメールで、「生徒に関することは秘密事項である」と述べたが、被害を受けた生徒は30人よりも「はるかに少ない」と主張している）。

このような行為は実際には驚くほどありふれたことなのだが、話を耳にすることはほとんどない。非常に当然なことではあるが、少なくとも、セクシャル・ハラスメント被害者の多くが、あまりにプライベートな事件については公に話したがらないからだ。しかし、15歳のフランチェスカは、「ショッキング」だったというこの違反行為を知ってからわずか1日で声を上げ始め、議員らにこの広範な問題に対して何らかの対応を取るよう呼びかけた。彼女の努力はすでに実を結び始めており、以前の記事で紹介した、州および連邦政府による法案を後押しする新たな機運が生まれつつある。その中には、ニュージャージー州上院議員であるジョン・ブラムニックとクリスティン・コラードが共同提出した、ディープフェイク・ポルノを同意なく作成して共有することに対する民事罰と刑事罰を定める州法の法案も含まれている。

フランチェスカと母親のドロータは、自分たちでは変化を起こせないような女性や少女を支援することが、特に自分たちの活動の目的だと言う。私は、この事件の実態をより深く理解するために、マニ親子と話をした。2人との会話の一部を共有したい。なお、以下のインタビューは、簡潔かつ明確にまとめるために、編集している。

◆

——何が起こったのか、そしてどのようにしてそれを知ったのか、順を追って説明していただけますか。

フランチェスカ：10月20日、女の子たちはみんな心配していました。噂が駆け巡り、みんな不安がっていて、女の子たちは全員、自分もAIの犠牲者の1人になると思っていました。そしてその日の終わりに、私が多くのAIディープフェイク被害者の1人であることを、学校の運営側が確認したのです。もちろん、私も他の女子生徒もクラスメートに裏切られたのですから、ショックでした。自分たちのクラスメートがそんなことをするなんて思いもしませんでした。

——あなたが自分の経験について声を上げ、多くの人に話していることは、本当に勇気がいることです。なぜ行動を起こそうと思ったのですか。

フランチェスカ：自分が被害者になるまでは、AIテクノロジーがどれほど複雑で恐ろしいものなのか知りませんでした。AIは今後も存在し続けますし、それに、私たちは自分や他人を傷つけることなくAIと共存する方法を学ぶ必要があるので、このテクノロジーに関して自ら学ぶ大切さを痛感しました。だからこそ、私は教育を後押しし、AIから身を守れるようにする「AI HEEELP（AIヘルプ）」というWebサイトを作りました。このサイトでは、AI被害者の自己権利擁護を助けるリソースを提供します。さらに、子どもや女性をディープフェイクから守るための州法や連邦法も成立させたいと考えていて、これはすでに行動に移しています。

——AIに関するリスクについて、他の少女や女性が知っておくべき重要なことは何だと思いますか。

フランチェスカ：私が経験したようなことは誰にでも起こりうることで、誰もが起こしてしまう可能性があることを知ることが大切です。あなたのクラスメートが起こすこともあり得ます。私の場合はそうでした。インスタグラムやどんな種類であれ、ソーシャルメディアに投稿を始めたら、自分の身にも起こり得るということを認識すべきです。自分の画像を守り、アカウントを非公開にし、公開アカウントではなく、知り合いなど特定のフォロワーだけを入れるようにしましょう。

——この問題について議員らと交わした会話について教えてください。

フランチェスカ：私たちの州を代表して意見を伝え、新しいAI法の策定を後押ししてもらうために、ブラムニック州上院議員（実はウェストフィールド出身）と話をしました。実際に会って話をしたのですが、ブラムニック議員はディープフェイクから州を守るために全力を尽くすと約束してくれました。ブラムニック議員はすぐにコラード州上院議員と、州法の法案を共同で提出しました。共同作業が順調に進めば、2024年1月にはニュージャージー州をAI法案で保護できるようになるでしょう。自分の町の州上院議員が、これほどまでに気にかけてくれ、重要な大義のために闘ってくれていることを知り、私は信じられないほど嬉しく思っています。

（ニューヨーク州選出の）ジョー・モレル米下院議員からもワシントンDCにお招きいただき、（両党の）他の下院議員の方々とお会いしました。

ドロータ：ワシントン訪問を経て、私たちはより多くの支援が得られること期待しており、必ず何かを始められるようにしたいと考えています。そうすれば、いつでもそれを改善していくことができます。

——今回の訪問で、政治や米国政府のあり方について学んだことはありますか。

フランチェスカ：私が議員に接触した時は14歳でした。今は15歳になりましたが、当時は14歳でした。（議員が）私の話を聞いてくれて、助けてくれたのです。そのことを知って、本当に嬉しかったです。議員たちは私や他の女の子たちを守ろうとしてくれました。このことから、恐れずに声を上げることを学びました。

——この件について警察に被害届を提出したとのことですが、あなたが望んでいる法的手段は何ですか。

フランチェスカ：自分の学校の誰かがやったのであれば、このようなことをした人は、本当に停学か退学にしてもらいたいです。みんなが心地よく過ごせることが重要だと思います。そして謝ってほしいです。私はその人を許すでしょうが、決して忘れません。

——ドロータさんは学校の対応に満足していないとおっしゃっていました。このような事態への対応や、そもそもこのような事態が起こらないようにするために、学校側に何か改善してほしいことはありますか。

ドロータ：この件に関しては、教育、つまり子どもたちを教育し、私たち自身が学ぶこと、そして責任を取ることがとても重要だと思います。この（機会）を利用して、娘たちには、自身が大切な存在であると教えるべきだと思うのです。たとえ被害に遭ったとしても、恥じる必要はなく、ありのままを受け入れ、過ぎ去ることを願うべきだと。私たちの学区は素晴らしいのです。先生たちは素晴らしい。先生たちのサポートがなければ、フランチェスカはこの状況を乗り越えることができなかったでしょう。その素晴らしさは語り尽くせません。

でも学校運営側は事態が沈静化することを願っているだけです。何の報告もありません。結論も説明も謝罪もありません。私自身も教育者です。ジャージーシティで私立学校を経営しています。母親として、1人の女性として、私は違うことを主張しているのです。私は娘をサポートしていますが、教育者として、子どもたちのために安全な場所を作ることを提唱しています。なぜなら、これは誰にでも起こり得るからです。必ずしも女性だけのことではありませんし、このようなことは許されないという明確なメッセージを送るべきだと思います。

MITテクノロジーレビューに対する声明の中で、ウェストフィールドのレイモンド・ゴンザレス教育長は次のように述べた。「ウェストフィールド公立学区は、学区のネットワークや学校支給のデバイスでこのようなことが起こらないよう、安全策を講じています。私たちは、生徒を教育し、これらの新しいテクノロジーが学校内外で責任ある形で使用されるように明確なガイドラインを確立することで、引き続き取り組みを強化していきます」。学校側はまた、直ちに調査を開始し、警察と協力していると述べた。

——何が適切で何が不適切なのか、またどのように被害から身を守るのかを子どもたちにも教えるのは教育の役割だと思いますか。

ドロータ：ええ、もちろんです。多くの場合、（デジタル教育は）体育の先生に委ねられ、体育の先生がAIの危険性を教えることになると思います。率直に言って、AIは非常に複雑で高度なテクノロジーであり、常に変化しています。このような授業は専門家がするべきであって、学年の最初だけで終わらせてはいけません。少なくとも2回か3回、有意義な方法で実施すべきです。

AIは人々の生活に本当に影響を与えます。フランチェスカはとても強い性格の持ち主です。彼女はいつも闘っています。私は、彼女が自分自身のために声を上げたことに拍手を送ります。最初、彼女が私に「ママ、私は闘いたい」と言ったとき、私はこう言いました。「フランチェスカ、どちらにも転ぶ可能性があることは知っておいて欲しい。喜んでくれる人の声も耳にすることになるし、本当に反対している人の声も聞くことになる。その覚悟が必要なのよ」。するとフランチェスカは言いました。「私は子どもじゃない。私は人の意見を受け入れることができるし、声も上げたい」。ですが、誰もがフランチェスカと同じような性格とは限りません。誰もが家庭でフランチェスカと同じようなサポートを受けられるわけではありません。トンネルの先に光が見えず、自殺や自傷行為に走る女の子や男の子もいるでしょう。そんなことが起こるまで何もしないのでは、いけないと思うのです。意味のある教育が最も重要なのです。

フランチェスカ：私はまた、すべての学区に対し、サイバーハラスメントに関する方針を更新してAIの定義を追加し、ディープフェイクが生徒によって作成された場合に生じる結果を新たに定めるよう、強く求めたいと思います。法律の可決には時間がかかりますが、学校の方針はすぐに更新できますし、更新すべきです。

——あなたは本当に、大きな勢いを生み出しているようです。これまでに否定的な反応はありましたか？

フランチェスカ：いいえ、特にありません。こんなに素晴らしいコミュニティがあり、友人や先生たちからのサポートを受けられるのかと思うと、本当に素晴らしいことで、感謝したいと思います。米国人であることをとても誇りに思います。私は今、15歳の少女の声がポジティブな変化をもたらすことができる国に住んでいるのですから。

◆

テック政策関連の気になるニュース

インドのインスタグラム・インフルエンサーが、政治キャンペーンから報酬を得て、地元選挙を揺るがしている。これは、比較的小規模で非政治的なソーシャルメディア・パーソナリティが選挙運動のメッセージ発信のために起用されるという、拡大しつつあるトレンドの一部だ。
EU（欧州連合）のAI法は交渉の最終段階を迎えているが、議論がうまく進んでいないと懸念する声もある。欧州議会、欧州委員会、欧州理事会は12月6日を交渉妥結の仮期限としているが、どうやらテック系ロビイストが議論を膠着させているようだ。
米国政府は今後、外国の偽情報キャンペーンがメタのプラットフォームで実施されていても、同社へ通知しないことになる。何年にもわたって実施されてきた方針の転換は、保守派の法的キャンペーンの結果によるものだ。米国大統領選挙を控える中で、これはインターネットの健全性にとって良いニュースではない。

テック政策関連の注目動向

ハギング・フェイス（Hugging Face）とカーネギーメロン大学の新しい調査研究によれば、AIを使った画像生成は、大量のエネルギーを消費するという。「研究論文は、まだ査読を受けていないものの、大規模なAIモデルの訓練が信じられないほどエネルギーを消費する一方で、それはほんの一部分でしかないことを示している。カーボン・フットプリントのほとんどは、AIを実際に使用することで排出されているのだ」。この研究は、画像やテキスト生成のようなさまざまな目的でのAI使用に関連する二酸化炭素排出量が計算された初めてのケースである。

人気の記事ランキング

テイト・ライアン・モズリー [Tate Ryan-Mosley]米国版テック政策担当上級記者: 新しいテクノロジーが政治機構、人権、世界の民主主義国家の健全性に与える影響について取材するほか、ポッドキャストやデータ・ジャーナリズムのプロジェクトにも多く参加している。記者になる以前は、MITテクノロジーレビューの研究員としてニュース・ルームで特別調査プロジェクトを担当した。前職は大企業の新興技術戦略に関するコンサルタント。2012年には、ケロッグ国際問題研究所のフェローとして、紛争と戦後復興を専門に研究していた。