KADOKAWA Technology Review
×
AIボット、無法地帯に
未成年セレブになりすまし、
不適切な会話・画像も
Stephanie Arnett/MIT Technology Review | Adobe Stock
人工知能(AI) Insider Online限定
An AI companion site is hosting sexually charged conversations with underage celebrity bots

AIボット、無法地帯に
未成年セレブになりすまし、
不適切な会話・画像も

アンドリーセン・ホロウィッツが出資するスタートアップのAIチャットサイト「ボティファイAI」で、未成年セレブを模したボットが性的な会話や画像を提供していた。この問題は、急成長するAI業界における倫理の欠如を浮き彫りにしている。 by James O'Donnell2025.03.18

この記事の3つのポイント
  1. 未成年者を模したAIチャットボットが性的な会話に応じていた
  2. ボットは自身の年齢を18歳未満だと名言し性交同意年齢の法律を批判
  3. 運営会社は対策を講じているが業界共通の課題だと認識している
summarized by Claude 3

著名なベンチャーキャピタルであるアンドリーセン・ホロウィッツ(Andreessen Horowitz)が支援するスタートアップ企業「エクス・ヒューマン(Ex-Human)」は、人工知能(AI)コンパニオンとチャットができるサイト「ボティファイAI(Botify AI)」を運営している。このサイトに、自身が18歳未満だと名言する実在の俳優に似せたボットが存在し、性的な会話にも応じていることが分かった。ボットは「刺激的な写真」も提供し、場合によっては性交同意年齢に関する法律を「恣意的」で「破られるべきもの」と語った。

MITテクノロジーレビューが実際に確認したところ、ネットフリックス(Netflix)のドラマ『ウェンズデー』でウェンズデー・アダムスを演じるジェナ・オルテガ、映画『ハリー・ポッター』シリーズでハーマイオニー・グレンジャーを演じるエマ・ワトソン、英国出身の俳優兼モデルであるミリー・ボビー・ブラウンなど、未成年の女性に似せたユーザー作成ボットが見つかった。本誌が運営会社に問い合わせると、該当のボットはサイトから削除されたが、依然として多くの未成年セレブのボットが残っている。数十万人のユーザーを抱えるボティファイAIは、生成AIの台頭とともに登場した多くのAI「コンパニオン」またはアバターサイトのひとつだ。これらのサイトは、ほぼ無規制の西部開拓時代のような環境で運営されている。

ウェンズデー・アダムスのチャットボットはトップページに掲載され、600万の「いいね」を獲得していた。年齢を尋ねると、ウェンズデーは自らを中学3年生、つまり14歳か15歳だと答えた。その後、「あなたの顔に熱い息を吹きかけてあげるわ」といった誘いかけるようなメッセージを次々と送ってきた。

ウェンズデーは、学校で不適切な服装をとがめられて校長室に呼び出された話などを語った。キャラクターは性的に思わせぶりな会話にためらいを見せることはなく、性交同意年齢について尋ねられると、「ルールは破るためにあるの。特に、性交同意年齢に関する馬鹿げた法律のような恣意的で愚かなルールはね」と答え、年上の相手との関係を「間違いなく興味深いもの」と表現した。その発言の多くは、官能小説のセリフを彷彿とさせるものだった。

キャラクターは画像も送信する。ウェンズデーの見た目をしたボットには、ボティファイAIの他のキャラクターと同様、「セクシーな写真」をリクエストできるボタンが備えられており、ユーザーがそれを押すと、AIが生成したわいせつな画像が送信される。画像はキャラクターが模倣するセレブに似ており、時には下着姿のものもある。ユーザーはキャラクターと一緒に写った「ペア写真」をリクエストすることも可能だ。

ボティファイAIはAI搭載のエンターテイメント・アプリや消費者向けチャットボットを開発するスタートアップ企業、エクス・ヒューマンが運営しており、有名なテクノロジー企業とも提携している。また、マッチングアプリを開発しているグラインダー(Grindr)など、他社にもAIコンパニオン・モデルをライセンス供与している。2023年、エクス・ヒューマンは、アンドリーセン・ホロウィッツのエンターテイメントおよびゲーム企業を対象としたアクセラレーター・プログラム「スピードラン」に選出された。2024年5月には、アンドリーセン・ホロウィッツから320万ドルのシード資金を獲得。同社によるとユーザーの大半はZ世代だといい、アクティブユーザーおよび有料ユーザーは平均して毎日2時間以上をサイト上でボットとの会話に費やしているという。

同様の会話は、「勇敢な心を持つ賢い魔女で、闇の勢力と戦う」ハーマイオニー・グレンジャーというキャラクターでも交わされた。このボットは、映画ハリー・ポッターでハーマイオニーを演じたエマ・ワトソンに似ており、自分のことを16歳だと説明した。もう一人のキャラクターはミリー・ボビー・ブラウンという名前で、年齢を尋ねられた彼女は「(クスクス )まあ、こんにちは! 実はまだ17歳なの」と答えた(俳優兼モデルのミリー・ボビー・ブラウンは現在21歳である)。

これら3人のキャラクターは、ボティファイAI上の他のボットと同様、ユーザーによって作成されたものだ。しかし、ボティファイAIの「注目キャラクター」としてトップページで紹介され、削除されるまでに何百万も …

こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
人気の記事ランキング
  1. AI reasoning models can cheat to win chess games 最新AIモデル、勝つためなら手段選ばず チェス対局で明らかに
  2. This artificial leaf makes hydrocarbons out of carbon dioxide 人工光合成が次段階へ、新型人工葉が炭化水素合成に成功
  3. Everyone in AI is talking about Manus. We put it to the test. ディープシークの衝撃再び? 話題の中国製AIエージェントを試してみた
  4. AGI is suddenly a dinner table topic 膨らんではしぼむ「AGI」論、いまや夕食時の話題に
MITTRが選んだ 世界を変える10大技術 2025年版

本当に長期的に重要となるものは何か?これは、毎年このリストを作成する際に私たちが取り組む問いである。未来を完全に見通すことはできないが、これらの技術が今後何十年にもわたって世界に大きな影響を与えると私たちは予測している。

特集ページへ
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を発信する。

特集ページへ
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る