人工知能（AI）に携わる人々にとって、この1年は紛れもなく多忙な日々だった。数え切れないほど多くのヒット製品が発表され、AI研究者がノーベル物理学賞と化学賞も受賞した。しかし、すべてが順風満帆だったというわけではない。

AIは予測不可能なテクノロジーだが、利用できる生成モデルが増えてきたことで、人々はその限界を新しい方法や奇妙な方法、時には有害な方法で試すようになってきた。この記事では、2024年における最大のAIの失敗事例を紹介しよう。

1. AIスロップがインターネットのほぼ隅々まで浸透

生成AIを利用すると、大量のテキスト、画像、動画、その他の種類の素材を簡単に作成できる。選択した生成AIモデルにプロンプトを入力するだけで、わずか数秒後には結果が出力されるため、そのような生成AIモデルは大規模コンテンツをすばやく簡単に制作する手段として使われるようになった。そして2024年は、この（一般的に質の低い）メディアが「AIスロップ（AI slop）」と呼ばれるようになった年である。

AIスロップを低コストで作成できるということは、今やインターネットのほぼ全域でAIスロップが目に入るようになったということである。受信トレイのニュースレターやアマゾンで販売されている書籍から、Web上の広告や記事、ソーシャルメディアのフィードに表示される怪しげな写真まで、蔓延している。このような写真が感情に訴えるもの（負傷した退役軍人、泣きじゃくる子どもたち、イスラエル・パレスチナの紛争における支援を訴えるメッセージ）であればあるほど共有される可能性は高くなり、それによってエンゲージメントを高め、広告収入を増やすことを狙った制作者たちがいる。

AIスロップは単に迷惑なだけではない。AIスロップの増加は、それを生成したAIモデルの将来に真の問題をもたらす。このようなAIモデルはインターネットから収集されたデータを使って訓練されているため、AIが生成したゴミを含む低品質なWebサイトが増加していくということは、モデルの出力とパフォーマンスが今後着実に悪化していく可能性が非常に高いということだ。

2. 現実のイベントに対する期待を歪めたAIアート

2024年は、現実離れしたAI画像の影響が私たちの実生活にまで広がり始めた年でもある。その一例が、2月に開催されたロアルド・ダールによる児童小説『チョコレート工場の秘密（Charlie and the Chocolate Factory）』にインスパイアされた荒唐無稽な非公式の没入型イベント「ウィリーのチョコレート体験（Willy’s Chocolate Experience）」である。このイベントでは、AIが生成した幻想的な宣伝広告が公開され、壮大な体験が期待された。しかし、実際の会場はまばらに装飾された倉庫に過ぎず、来場者の不満が殺到。世界的なニュースとなった。

同様にダブリンでは、実在しないハロウィーン・パレードのために何百人もの人々が通りに並ぶという事件が起きた。パキスタンに拠点を置くあるWebサイトが、AIを使って市内のイベントリストを作成し、それが10月31日に先立ってソーシャルメディアで広く共有されたためだ。このSEO（検索エンジン最適化）対策のために作られたサイト（myspirithalloween.com）はその後削除されたが、この2つの事例は、AIが生成したオンラインコンテンツをうっかり信じた結果、どのような災いがもたらされるかを示している。

3. あらゆるシナリオの画像を作成できるGrok

大半の主要なAI画像ジェネレーターは、暴力的、性的、違法、その他の種類の有害なコンテンツをユーザーが作成できないようにするガードレール（AIモデルが実行できることと実行できないことを規定するルール）を備えている。こうしたガードレールは、他人の知的財産をあからさまに利用しないようにすることだけを目的としていることもある。しかし、イーロン・マスクが率いるAI企業「xAI（エックスエーアイ）」が開発したAIアシスタント「Grok（グロック）」は、マスクが「woke AI」と呼ぶ、社会的不公正や人種差別などに対する意識の高いAIを否定するマスクの姿勢に基づき、こうした原則をほとんど無視している。

他の画像ジェネレーターは、（ルールを無視するように騙されない限り）一般的に有名人、著作権で保護された素材、暴力、テロリズムの画像の作成を拒否するが、Grokはバズーカ砲を発射するドナルド・トランプ次期大統領や爆弾を持ったミッキーマウスの画像をためらうことなく生成する。ヌード画像の生成に関しては規制があるものの、こうしたルールを守らないGrokの態度は、問題のある素材を作らないようにしようという他社の努力を台無しにしている。

4. テイラー・スウィフトの性的なディープフェイク画像がネットに出回る

2024年1月、テイラー・スウィフトの合意のないディープフェイク・ヌード画像が、Xやフェイスブックなどのソーシャルメディアで出回り始めた。テレグラムのあるコミュニティがマイクロソフトのAI画像ジェネレーター「Designer（デザイナー）」を騙して露骨な画像を作らせ、ガードレールがあっても回避できることを実証した。

マイクロソフトはすぐにそのシステムの抜け穴を塞いだが、それまでに画像を含む投稿が広く出回り、数日間そのまま残った。この事件はDesignerのコンテンツ管理ポリシーの不備を浮き彫りにした。しかし、この件から得られた最も恐ろしい教訓は、同意のないディープフェイク・ポルノと闘うために、私たちがいかに無力であるかということだ。電子透かしやデータ汚染ツールは役立つ可能性はあるが、効果をあげるにはもっと広く採用される必要があるだろう。

5. ビジネスチャットボットの暴走

AIが普及するにつれ、企業は時間と金銭的コストを節約し、効率を最大化するために、競って生成ツールを採用しようとしている。ここで問題となるのは、チャットボットが物事をでっち上げるため、常に正確な情報を提供してくれるとは限らない点だ。

エア・カナダは、この問題を身をもって経験することになる。同社のチャットボットが実際には存在しない忌引規定に基づく運賃払い戻しポリシーをに顧客に提案したためだ。エア・カナダはチャットボットは「チャットボットは独立した法的実体であり、自らの行動に責任を持つ」と主張したが、カナダの少額裁判所は2月に、顧客の訴えを支持した。

チャットボットが利益よりも害をもたらした他の注目すべき例としては、配送会社DPDのボットがある。このボットは、ほとんど促されることなく、陽気に悪態をついたり、自らを「役立たず」と称したりした。一方、ニューヨーク市民に市政に関する正確な情報を提供するために設置された別のボットは、法律の破り方に関するアドバイスを提供してしまった。

6. 振るわなかったAI搭載の最新ガジェット

AIアシスタント・ハードウェアは、AI業界が2024年に広めようと試みて失敗したものである。ヒューメイン（Humane）は、バッジ型ウェアラブル・コンピューター「Aiピン（Ai Pin）」を売り込もうとしたが、価格を大幅に下げても低調な売上を伸ばすことはできなかった。ChatGPT（チャットGPT）ベースのパーソナル・アシスタント・デバイス「Rabbit（ラビット） R1」も、動作が遅くバグが多いという批判的なレビューや報告が殺到し、同様の運命をたどった。どちらの製品も、実際には存在しない問題を解決しようとしているようだった。

7. AI検索サマリーの失敗

ピザに接着剤を入れたり、小石を食べたりしたことがあるだろうか？ 2024年5月、ーグルが検索結果のトップにAIが生成した回答を表示する「AIによる概要」機能を追加した際、ユーザーはこうした突飛な提案を目にした。事実に基づいたニュース記事とレディットのジョーク投稿を区別できないAIシステムが原因で、ユーザーたちは「AIによる概要」が生成しうる最も奇妙な回答を競って見つけ出そうとした。

AIサマリーは深刻な結果をもたらすこともある。アプリの通知をグループ化し、その内容の要約を作成するiPhoneの新機能が最近、BBCニュースの誤った見出しを作成した。この要約機能は、米医療保険大手の最高経営責任者（CEO）ブライアン・トンプソンの殺害で起訴されたルイジ・マンジョーネが自殺したという誤報を伝えた。同機能は以前にも、イスラエルのベンヤミン・ネタニヤフ首相が逮捕されたという誤った見出しを作成していた。このようなエラーは、意図せず誤った情報を広め、報道機関に対する信頼を損なうことになる。

• 13

人気の記事ランキング

1. Anthropic can now track the bizarre inner workings of a large language model 大規模言語モデルは内部で 何をやっているのか？ 覗いて分かった奇妙な回路
2. Promotion MITTR Emerging Technology Nite #32 Plus 中国AIをテーマに、MITTR「生成AI革命4」開催のご案内
3. AI companions are the final stage of digital addiction, and lawmakers are taking aim SNS超える中毒性、「AIコンパニオン」に安全対策求める声
4. This Texas chemical plant could get its own nuclear reactors 化学工場に小型原子炉、ダウ・ケミカルらが初の敷地内設置を申請
5. Tariffs are bad news for batteries トランプ関税で米電池産業に大打撃、主要部品の大半は中国製