KADOKAWA Technology Review
×
写真の女性をワンクリックでポルノ女優に、「一線越えた」AIアプリ
Pedro Nekoi
人工知能(AI) 無料会員限定
A horrifying new AI app swaps women into porn videos with a click

写真の女性をワンクリックでポルノ女優に、「一線越えた」AIアプリ

顔写真をブラウザーからアップロードするだけでポルノビデオを生成するWebアプリが登場した。ディープフェイク技術を使ったこのサイトはすでに利用できなくなっているが、研究者やフェイクポルノの元被害者からは「一線を越えた」との声が上がっている。 by Karen Hao2021.09.16

白い背景に置かれた巨大な青いボタンが、顔写真をアップロードするよう誘う。シンプルさが目を引くWebサイトだ。ボタンの下には、サービスを試すために人工知能(AI)によって生成された4つの顔が提供されている。ボタンの上にあるタグラインは、堂々とその目的を宣言している。「ディープフェイク・テクノロジーを使ってアダルトビデオの出演者と顔を交換することで、誰でもポルノ・スターになれます」。必要なのは顔写真とボタンのクリックだけだ。

MITテクノロジーレビューはサイトへのアクセスを防ぐため、このサービスの名前をあえて伏せ、記事中では「Y」と表記する。コンテンツやスクリーンショットなどの引用も一切控える。Yは、ネット上の合成メディアの進化と発展を追跡してきたディープフェイク研究者、ヘンリー・アジャーによって発見され、本誌にその情報が寄せられた。

現時点でYは比較的無名で、少数の常連ユーザーがオンライン・フォーラムを通じて開発者へ活発なフィードバックを送っているにとどまっている。しかし、このようなサービスが出現したことで、研究者たちはこれまでは越えなかった倫理的一線を越えてしまう事態を懸念している。

当初からディープフェイク、あるいはAIによって生成された合成メディアは、主に女性をポルノに登場させる目的で使われてきた。標的にされた女性は多くの場合、大きな心理的苦痛を受ける。ディープフェイクを最初に広めたレディット(Reddit)のクリエイターは、有名女性の顔をポルノビデオの出演者の顔と入れ替えた。センシティAI(Sensity AI)の調査によると、ネット上のディープフェイク・ビデオの90〜95%は当事者の同意がないポルノで、そのうちの約90%が女性と推定されている。

ディープフェイク・テクノロジーが進歩するにつれて、簡単に使えるコーディング不要のツールも出現し、女性の着衣画像から服を「脱がす」ことも可能になった。これらのサービスの多くはその後Web上から排除されたが、コードはオープンソースのリポジトリに存在し、姿形を変えて繰り返し出現している。研究者のジェネビーブ・オーが最近発見したサイトは、8月に670万人の訪問数を記録しており、いまだオフラインになっていない。

単一写真の顔交換アプリは以前から存在する。例えば、ユーザーが人気映画や音楽ビデオの特定のシーンに登場しているかのように見せる、「ザオ(ZAO)」や「リフェイス(ReFace)」などだ。しかし、初のポルノ画像に特化した顔交換アプリとして登場したYは、新たなレベルに到達している。テクノロジーの濫用による虐待について教育する非営利団体エンドタブ(EndTAB)の創設者アダム・ドッジは、Yが当事者の同意なしにポルノ画像を作成するために「オーダーメード」されているからだという。ポルノという特殊な用途に特化したことで、開発者は用途に合わせたテクノロジーの改良がしやすくなり、ディープフェイクでポ …

こちらは会員限定の記事です。
メールアドレスの登録で続きを読めます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
【春割】実施中!年間購読料20%オフ!
人気の記事ランキング
  1. Why handing over total control to AI agents would be a huge mistake 「AIがやりました」 便利すぎるエージェント丸投げが危うい理由
  2. OpenAI has released its first research into how using ChatGPT affects people’s emotional wellbeing チャットGPTとの対話で孤独は深まる? オープンAIとMITが研究
  3. An ancient man’s remains were hacked apart and kept in a garage 切り刻まれた古代人、破壊的発掘から保存重視へと変わる考古学
MITTRが選んだ 世界を変える10大技術 2025年版

本当に長期的に重要となるものは何か?これは、毎年このリストを作成する際に私たちが取り組む問いである。未来を完全に見通すことはできないが、これらの技術が今後何十年にもわたって世界に大きな影響を与えると私たちは予測している。

特集ページへ
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を発信する。

特集ページへ
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る