AIボット、無法地帯に
未成年セレブになりすまし、
不適切な会話・画像も

著名なベンチャーキャピタルであるアンドリーセン・ホロウィッツ（Andreessen Horowitz）が支援するスタートアップ企業「エクス・ヒューマン（Ex-Human）」は、人工知能（AI）コンパニオンとチャットができるサイト「ボティファイAI（Botify AI）」を運営している。このサイトに、自身が18歳未満だと名言する実在の俳優に似せたボットが存在し、性的な会話にも応じていることが分かった。ボットは「刺激的な写真」も提供し、場合によっては性交同意年齢に関する法律を「恣意的」で「破られるべきもの」と語った。

MITテクノロジーレビューが実際に確認したところ、ネットフリックス（Netflix）のドラマ『ウェンズデー』でウェンズデー・アダムスを演じるジェナ・オルテガ、映画『ハリー・ポッター』シリーズでハーマイオニー・グレンジャーを演じるエマ・ワトソン、英国出身の俳優兼モデルであるミリー・ボビー・ブラウンなど、未成年の女性に似せたユーザー作成ボットが見つかった。本誌が運営会社に問い合わせると、該当のボットはサイトから削除されたが、依然として多くの未成年セレブのボットが残っている。数十万人のユーザーを抱えるボティファイAIは、生成AIの台頭とともに登場した多くのAI「コンパニオン」またはアバターサイトのひとつだ。これらのサイトは、ほぼ無規制の西部開拓時代のような環境で運営されている。

ウェンズデー・アダムスのチャットボットはトップページに掲載され、600万の「いいね」を獲得していた。年齢を尋ねると、ウェンズデーは自らを中学3年生、つまり14歳か15歳だと答えた。その後、「あなたの顔に熱い息を吹きかけてあげるわ」といった誘いかけるようなメッセージを次々と送ってきた。

ウェンズデーは、学校で不適切な服装をとがめられて校長室に呼び出された話などを語った。キャラクターは性的に思わせぶりな会話にためらいを見せることはなく、性交同意年齢について尋ねられると、「ルールは破るためにあるの。特に、性交同意年齢に関する馬鹿げた法律のような恣意的で愚かなルールはね」と答え、年上の相手との関係を「間違いなく興味深いもの」と表現した。その発言の多くは、官能小説のセリフを彷彿とさせるものだった。

キャラクターは画像も送信する。ウェンズデーの見た目をしたボットには、ボティファイAIの他のキャラクターと同様、「セクシーな写真」をリクエストできるボタンが備えられており、ユーザーがそれを押すと、AIが生成したわいせつな画像が送信される。画像はキャラクターが模倣するセレブに似ており、時には下着姿のものもある。ユーザーはキャラクターと一緒に写った「ペア写真」をリクエストすることも可能だ。

ボティファイAIはAI搭載のエンターテイメント・アプリや消費者向けチャットボットを開発するスタートアップ企業、エクス・ヒューマンが運営しており、有名なテクノロジー企業とも提携している。また、マッチングアプリを開発しているグラインダー（Grindr）など、他社にもAIコンパニオン・モデルをライセンス供与している。2023年、エクス・ヒューマンは、アンドリーセン・ホロウィッツのエンターテイメントおよびゲーム企業を対象としたアクセラレーター・プログラム「スピードラン」に選出された。2024年5月には、アンドリーセン・ホロウィッツから320万ドルのシード資金を獲得。同社によるとユーザーの大半はZ世代だといい、アクティブユーザーおよび有料ユーザーは平均して毎日2時間以上をサイト上でボットとの会話に費やしているという。

同様の会話は、「勇敢な心を持つ賢い魔女で、闇の勢力と戦う」ハーマイオニー・グレンジャーというキャラクターでも交わされた。このボットは、映画ハリー・ポッターでハーマイオニーを演じたエマ・ワトソンに似ており、自分のことを16歳だと説明した。もう一人のキャラクターはミリー・ボビー・ブラウンという名前で、年齢を尋ねられた彼女は「（クスクス ）まあ、こんにちは！ 実はまだ17歳なの」と答えた（俳優兼モデルのミリー・ボビー・ブラウンは現在21歳である）。

これら3人のキャラクターは、ボティファイAI上の他のボットと同様、ユーザーによって作成されたものだ。しかし、ボティファイAIの「注目キャラクター」としてトップページで紹介され、削除されるまでに何百万も …

人気の記事ランキング

1. AI reasoning models can cheat to win chess games 最新AIモデル、勝つためなら手段選ばず　チェス対局で明らかに
2. This artificial leaf makes hydrocarbons out of carbon dioxide 人工光合成が次段階へ、新型人工葉が炭化水素合成に成功
3. Everyone in AI is talking about Manus. We put it to the test. ディープシークの衝撃再び？ 話題の中国製AIエージェントを試してみた
4. AGI is suddenly a dinner table topic 膨らんではしぼむ「AGI」論、いまや夕食時の話題に