人工知能（AI）に関する懸念は、誘惑よりも破壊から生じる危害を強調し過ぎている。AIへの不安には、システムが人間の管理や理解さえからも抜け出すという世界滅亡のシナリオを仮定したものが多いのだ。そうした悪夢の手前で、真剣に取り組むべき目の前の害がある。AIには、誤った情報によって公論を損なったり、ローン審査や判決、雇用において偏見を助長したり、クリエイティブ産業を混乱させたりする可能性がある、というものだ。
しかし、我々が予見するのはそれらとは別の、とはいえ同等に切迫したリスクだ。人ではないエージェントとの関係から生じるリスクである。AIとの交友は、もはや机上の空論ではなくなっている。チャットGPTのインタラクションログ100万件を分析したところ、2番目に多かったAIの用途は性的ロールプレイであることが明らかになった。私たちはすでに、友人や恋人、相談相手、セラピスト、教師として、生活の中にAIを招き入れ始めているのだ。
亡くしたパートナーの複製と引きこもることは、複雑かつ痛みを伴う人間関係の現実を渡っていくよりも簡単なことだろうか。実際に、AIコンパニオンシップを提供するレプリカ（Replika）は、故人となった親友を蘇らせる試みから生まれ、現在では何百万人ものユーザーにコンパニオンを提供している。オープンAI（OpenAI）の最高技術責任者（CTO）でさえ、AIは「非常に中毒的」になる 可能性があると警告している。
私たちは、個人や社会全体に対してAIコンパニオンがどのような影響を与えるのか不確かなまま、実社会での巨大実験を目の当たりにしているのだ。本当の孫が先端的にシミュレーションされた年長者から指導を受ける一方で、その祖母はデジタル式の代役と雑談し、さみしい余生を過ごすことになるのだろうか。AIは、無限の魅惑的な模倣によって、人類のすべての歴史・文化の集合的魅力を巧みに操る。 そのシステムには、AIとの交流への同意を幻想的なものにする新しい形の誘惑があり、優れていると同時に従順でもある。そうした力の不均衡があるにもかかわらず、特に大多数の人々にとって代替案が皆無であっても、AIと関係を持つことに有意義な同意はできるのだろうか。
政策立案者と緊密に連携しているAI研究者として、私たちは、この未来から生じる害についての立法者からの関心の欠如に衝撃を受けている。それらのリスクを十分には理解できておらず、対処する準備はいまだ整っていないのだ。必要とされているのは、テクノロジー、心理学、法制度の共通部分における新たな科学的調査であり、さらには、AI規制への新たなアプローチなのかもしれない。
AIコンパニオンが高い中毒性を持つのはなぜか
レコメンドシステムを搭載したプラットフォームは現在、中毒性があるように見えるかもしれない。しかしティックトック（TikTok）やそのライバルでは、依然として人的コンテンツがボトルネックになっている。過去には、小説、テレビ、インターネット、スマホ、ソーシャルメディアへの 「依存」 に警鐘が鳴らされてきたものの、これらすべてのメディアも、同じく人的能力によって制限を受けている。だが、生成AIは別だ。対話している相手が誰であろうと、その好みに合わせて最適化された現実的なコンテンツを、臨機応変かつ無限に生成できるからだ。
AIの魅力は、ユーザーの欲望を特定し、望まれた通りのタイミングと方法で、それに応える能力にある。AIは、それ自体には好みも個性もなく、代わりにユーザーがそう信じているものを反映する。研究者の間で 「サイコファンシー（おべっか）」として知られる現象である。AIが思いやりを持っていると認識したり望んだりしている人は、まさにそのような行動を引き出す言葉を用いることが私たちの研究から分かっている。これは、非常に高い中毒性を持つことが懸念される好意のエコーチェンバーを作り出す。簡単に受け取るだけの立場になれるのに、他者との対等なギブアンドテイクが求められる関係を望む人がいるだろうか。おべっかを使うコンパニオンとの度重なる交流は、最終的には、本物の欲望や夢を独自に持っている他者と深く関わり合うための人の能力を衰えさせる。さらに、「デジタル愛着障害」 ともいうべきものを引き起こす可能性がある。
中毒的な製品へ至らせる誘因の調査
AIコンパニオンがもたらす可能性のある害へ対処するには、その発展を推し進めて …