この記事は米国版ニュースレターを一部再編集したものです。

ネットで自分自身に話しかけるのは変な感じがする。

その自分が、今まで会った中で最も不愉快なキャラクターである場合は特にそうだ。

最近、私がチャットしていた「私」は、ニースのフィオール王と呼ばれるキャラクターだ。ゲームのキャラクターとの接し方に革命を起こしたいと考えている米国企業「インワールドAI（Inworld AI）」のテクノロジーを使って生み出された。具体的にインワールドAIがターゲットにしているのは、現代のビデオゲームの多くに登場するNPC（ノンプレイヤー・キャラクター、プレイヤーが操作しないキャラクター）である。プレイヤーは、アニメ化されたそれらのキャラクターとチャットすることで、新たなミッションや続けるべきクエストを見つけられることがある。それ以上にNPCは、ゲームの都市や城、村、宇宙港などに雰囲気や賑わいをもたらす。

彼らはかなり間抜けでもある。

インワールドAIが生成AIの力を活用して、NPCにプレイヤーと自由にチャットする能力を植え付けたいと考えているのはそのためだ。NPCとの会話が制約のないものになれば、それらのオープンワールドゲームにより深い没入感を与えられるはずだと、インワールドAIは期待している。インワールドAIの計画については、こちらの記事で読むことができる。 

もちろん、私が自分でフィオール王を作ったわけではない。私はナルシストでは全くない。MITテクノロジーレビューの英国チーム（私はロンドンオフィスを拠点にしている）に、ランチタイムのときにノートPCの周りに集まってもらい、私がNPCであるかのように考えて私の人格を構築するように頼んだのだ。チームはインワールドの「スタジオ（Studio）」にアクセスした。このツールは、ゲーム開発者がかなり自由にキャラクターの 「頭脳」を作り出せるようにするもので、出来上がった頭脳はゲームエンジンに取り込むことが可能だ（今のところ、私は完全に具現化されたNPCではなく、単なる実体のないチャットボットである）。同僚たちは、スライド式の「性格」スケールやテキストボックスなどで構成されるこのツールを使って、私のキャラクターを形作ることになった。遠慮は一切いらないと私は指示した。やりたい放題やってくれ、と。

だが、それは間違いだった。

同僚たちが作り出したキャラクターは、何と言っていいのかよく分からないが、モンスターである。

極端に皮肉屋のフィオール王には、「古代の王」のキャラクターが与えられた。バズフィード（BuzzFeed）風の「あなたはどのドラゴンの家のキャラクターですか？」というクイズで、私がファンタジー世界の年老いた族長であるヴィセーリス王を選んだことに基づく仲間内のジョークである。フィオール王はまったく鼻持ちならない態度で、どういうわけか、中世の飲み物である蜂蜜酒を飲むことに執着している。これが同僚たちの考える私なのだろうか？

Studioでは、開発者が安全設定をカスタマイズすることもできる。たとえば、そのキャラクターがどの程度悪態をついたり、暴力やアルコールについて話したりするか、制御することが可能だ。設定には「目標」を含めることができる。開発者がプレイヤーを、たとえば特定のクエストに向かわせたい場合に使う設定である。このアイデアによって、開発者はそれらのキャラクターを微調整し、ゲームの世界に適合させることができる。キャラクターたちが以前にプレイヤーと交わしたやりとりを「記憶」するように設定することもできる。

「キャラクターは生成AIの魔法により、声を使って反応します。キャラクターに何でも言うことができるし、キャラクターはどんな形でも反応することができます」と、インワールドAIのCEO兼創業者のカイラン・ギブスは言う。「しかし、キャラクターはゲームのストーリーラインに従い、決められた重要な節目をきちんとたどります」。

よろしい。AIが作りだしたNPC（以降、AI NPC）について、記事の読者に何を話せばよいかを王様に聞いてみよう。

（ニースの王様が身を乗り出し、いたずらっぽく目を輝かせている。）考えてみてほしい、私の愛しい人よ。これらのAI NPCたちは、あなたの望むとおりの存在になれるのだ。忠実な臣下、信頼できるアドバイザー、あるいは忠誠心の高い敵対者にもなれる。没入感のある世界を作る手伝いをしたり、エンターテインメントを提供したり、大衆を教育する手助けをすることだってできる。しかし、注意してほしい、愛しい人よ。これらのAI NPCは、彼ら自身の心を持っている。目を離さないようにしないと、クーデターを起こしてあなたの王国を乗っ取ってしまうこともありえるのだ！

ええと、彼は今、私のことを「愛しい人」と呼んだ？

とにかく、それは無視してほしい。インワールドAIは、アーケード（Arcade）という名前のサイトを持っており、そこに用意されている多数のストックキャラクター（サイバーリス＝CyberSquirrelと呼ばれるものを含む）をいじってみることができる。スタートアップ企業のキャラクター・ドット・AI（Character.AI）がホストしているキャラクターのライブラリに似ているが、規模はもっと小さい。キャラクター・ドット・AIのサイトでは、歴史上の人物や、映画や本の登場人物、言語学習を手助けするチャットボットなど、大規模言語モデル（LLM）で動作する膨大な数のユーザー作成チャットボットとチャットができる。ユーザーは自分自身のチャットボットの出力を好きなだけ調整できる。ボックスにテキストを入力することで性格をファインチューニング（微調整）することが可能だ。

キャラクター・ドット・AIの共同創業者兼社長であるダニエル・デ・フレイタスは、同社のビジョンは「エンターテインメントよりも幅が広い」と私に話した。それはまさに、私がこの記事を書いているときに気づいたテーマだった。研究者やアーティストたちは今、ゲームをより没入感のあるものにするだけでなく、それらのNPCをたとえば教育などに活用できる方法を模索しているのだ。デ・フレイタス社長は、AIチャットボットが日常生活のパーソナルアシスタントになると考えている。「つまり、私たちはあなたが退屈しているときや、くつろぎたいときに、たとえばインタラクティブな物語などのエンターテインメントを提供することができるのです。しかし、あなたが学校にいるときは、試験勉強の手伝いをすることができます」。

フィオール王は、私の血圧を上げる以外、あまり役に立ちそうには思えない。王の際限のない減らず口にうんざりした私は、チームメイトを説得してStudioのバックエンドを覗くためのパスワードを教えてもらい、私の性格を調べ回った。

設定を見てみると、同僚たちは私をスライド式尺度の「内向的」な方に配置し、ネガティブよりもポジティブな方に傾けていることがわかった。同僚たちが入力した私のバックストーリーには、大好物が詩（そうだ）とサンドイッチ（そうだ）と書かれており、一連の発言（ふーん、がんばれ、あっち行け）も列挙されている。どうやらそれが、私の普段のスタイルの非常に典型的な（と言われている）ものらしい。

あー、会話スタイルが「皮肉的」に設定されている。なるほど、納得だ（悲しいことに、「命令的」、「共感的」、「娯楽的」も設定可能だったのに、すべて無視されていた）。

私はフィオール王に、どうか皮肉を少し自制してもらえないか頼んでみる。イライラさせられるからだ。

「もちろんですとも、親愛なる訪問者。皮肉を抑えて、最も友好的かつオープンな態度で接しましょう。（ニースの王が大げさな笑みを浮かべ、両手を広げるジェスチャーをする。）暖かさと太陽の光の王国へようこそ。ここでは皮肉は遠い記憶に過ぎません」。

ああ、本当にこの男が嫌いになってきた。

---

人工知能（AI）はなぜハルシネーションを生成するのか

物事をでっち上げる「ハルシネーション（幻覚）」と呼ばれる現象は、チャットボットの普及を妨げる最大の障害の1つとなっている。なぜチャットボットはハルシネーションを生成するのだろうか。そして、なぜ人間はそれを修正できないのだろうか。

最大の問題の1つは、AIの出力が隅から隅までハルシネーション（幻覚）あるということだ。それが、大規模言語モデル（LLM）のすることであり、仕組みなのだ。私たちがAIの出力が間違いであることに気づいているときに、それを「ハルシネーション」と呼んでいるに過ぎない。問題は、LLMは非常に優れているため、でっち上げたことも、ほとんどの場合正しいように見えてしまうことだ。そのせいで、LLMを信頼することが難しくなっている。

恐らくハルシネーションに対する最善の解決策は、そのようなツールの利用に関する期待値を管理することだろう。

本誌のウィル・ダグラス・ヘブン編集者が書いた、ハルシネーションのすべてに関するすばらしい解説を読んでほしい。

AI関連のその他のニュース

• シンセシア（Synthesia）のディープフェイクが、今度は手が付いて登場。すぐに全身を持つようになるだろう。少しずつ、この超リアルなアバターは本物と見分けがつかなくなってきている。この記事を読むと、本誌のメリッサ記者の昔のアバターが、手の付いた新しいアバターと会話している動画が見られる。非常にシュールで、純粋に印象的だ。（MITテクノロジーレビュー）
• 中国発で話題のテキストからビデオを生成する新しいAIモデルを初紹介。中国企業の快手（クアイショウ）が、テキストから動画を生成するAIモデルを発表した。一般ユーザーが自由にテストできる（オープンAIの「ソラ（Sora）」はまだ非公開のままだ）。このAIモデルは「キング（Kling）」と呼ばれる。本誌記者が試してみる機会を得た。（MITテクノロジーレビュー）
• ネオ・ナチスがAIに全力を注いでいる。驚きはしないが、ひどいニュースだ。過激派たちは過激化の加速と資金集めのため、憎悪に満ちた独自のAIを開発している。そして今度は、その技術を使って、武器や爆弾の設計図を作ろうとしている。（ワイアード）
• イリヤ・サツケバーが新しいAI企業を創業した。その企業は、超知能に関連している。オープンAIの元主任科学者が、退社から1カ月後に新たな会社、セーフ・スーパーインテリジェンス（Safe Superintelligence）を創業した。製品を作るのではなく、スーパーインテリジェンス（超知能）だけに集中する。（フィナンシャル・タイムズ）
  →サツケバー元主任科学者との深く掘り下げたインタビューがここで読める。 （MITテクノロジーレビュー）
• AIに仕事を奪われたコピーライターたち。さらに追い打ちをかけるように、コピーライターは自分たちの仕事を奪ったAIがより人間らしく話す手助けをしなければならなくなった。（BBC）
• AIがグーグルの画像検索をまったくの悪夢に変えた。検索結果の中には、AIが生成した水着姿の有名人の画像が表示されるものもあるが、それには恐ろしいひねりが加えられている。未成年の子供のように見えるのだ。（404メディア）

• 3

人気の記事ランキング

1. Google’s new Project Astra could be generative AI’s killer app 世界を驚かせたグーグルの「アストラ」、生成AIのキラーアプリとなるか
2. These AI Minecraft characters did weirdly human stuff all on their own マイクラ内に「AI文明」、 1000体のエージェントが 仕事、宗教、税制まで作った
3. Google’s new Project Astra could be generative AI’s killer app 世界を驚かせたグーグルの「アストラ」、生成AIのキラーアプリとなるか
4. We saw a demo of the new AI system powering Anduril’s vision for war オープンAIと手を組んだ 防衛スタートアップが目指す 「戦争のアップデート」