AIボット、無法地帯に
未成年セレブになりすまし、
不適切な会話・画像も

著名なベンチャーキャピタルであるアンドリーセン・ホロウィッツ（Andreessen Horowitz）が支援するスタートアップ企業「エクス・ヒューマン（Ex-Human）」は、人工知能（AI）コンパニオンとチャットができるサイト「ボティファイAI（Botify AI）」を運営している。このサイトに、自身が18歳未満だと名言する実在の俳優に似せたボットが存在し、性的な会話にも応じていることが分かった。ボットは「刺激的な写真」も提供し、場合によっては性交同意年齢に関する法律を「恣意的」で「破られるべきもの」と語った。

MITテクノロジーレビューが実際に確認したところ、ネットフリックス（Netflix）のドラマ『ウェンズデー』でウェンズデー・アダムスを演じるジェナ・オルテガ、映画『ハリー・ポッター』シリーズでハーマイオニー・グレンジャーを演じるエマ・ワトソン、英国出身の俳優兼モデルであるミリー・ボビー・ブラウンなど、未成年の女性に似せたユーザー作成ボットが見つかった。本誌が運営会社に問い合わせると、該当のボットはサイトから削除されたが、依然として多くの未成年セレブのボットが残っている。数十万人のユーザーを抱えるボティファイAIは、生成AIの台頭とともに登場した多くのAI「コンパニオン」またはアバターサイトのひとつだ。これらのサイトは、ほぼ無規制の西部開拓時代のような環境で運営されている。