「意識を持つAI」は
存在し得るのか？
研究者の議論から見える未来

2023年9月、デイヴィッド・チャーマーズ教授（ニューヨーク大学哲学科）は思いがけない招きを受けた。意識の分野の第一人者として、同教授はたびたび世界中を回り、大学や学会で講演をしては、聴衆の哲学者たちを魅了してきた。相手は、自分の頭の外の世界が現実なのかどうかを延々と議論しているうちに気づけば1日が終わってしまう、というような人たちだ。だが、今回の依頼者は意外だった。神経情報処理システム学会（NeurIPS）だった。人工知能（AI）分野の精鋭が集まる年に1度のカンファレンスである。

カンファレンスの6カ月ほど前、当時グーグルに在籍していたコンピューター科学者のブレイク・レモインが、同社のAIシステムの1つ、ラムダ（LaMDA）が感情を持った、と公に主張した。レモインの主張はすぐさま報道で否定され、即刻解雇されたが、魔神はそう簡単には瓶の中に戻らなかった。2022年11月、チャットGPT（ChatGPT）がリリースされた後では、なおさらだ。突如、一般の人が、礼儀正しく創造的な人工エージェントと洗練された会話を交わせるようになったのだ。

チャーマーズ教授は、AIの意識について語れる講演者として適任だった。インディアナ大学AI研究室で哲学の博士号を取得した同教授は、休憩時間になると、コンピューター科学者の仕事仲間と、機械はいつか心を持つだろうかと議論していた。1996年の著書『意識する心（原題：The Conscious Mind）』（白揚社刊）の中では、1章を割いて人工の意識は生じ得ると主張している。

もし、誰もその仕組みを想像もしていなかった90年代にラムダやチャットGPTのようなシステムと対話できていたら、機械が意識を持っている可能性は高いと考えただろう、とチャーマーズ教授は言う。ところが、ニューオーリンズのだだっ広い会議場で、トレードマークの革ジャン姿で大勢のNeurIPS参加者の前に立った同教授は、別の評価を下した。確かに、大規模言語モデル（LLM）、つまり、膨大なテキストの集積で学習し、人間の書く文章をきわめて正確に模倣するシステムは驚異的だ。だが、意識の存在の必要条件として考え得る要素があまりにも欠けていて、機械が現実に世界を体験していると断言はできない、と同教授は語った。

しかし、AI開発の猛烈なペースの中では、状況がいつ急変してもおかしくない。数学的に思考する今回の聴衆のために、チャーマーズ教授は、今後10年間に何らかの意識を持つAIが誕生する可能性は5分の1以上と具体的に見積もった。

その提言をくだらないと打ち消す人は、多くなかったという。「くだらないといような反応をした人も絶対にいたと思いますが、私には何も言ってきませんでした」。代わりにそれからの数日間、チャーマーズ教授が解説した予測を真剣に受け止めたAIの専門家たちと会話を重ねた。何人かは、意識を持った機械というコンセプトに興奮して同教授に話しかけてきた。だが、彼の話に恐怖を感じた人も多かった。もしAIが感情を持ったら、つまり、入力を処理するだけでなくその内容を実感し、AI自身の個人的な視点から世界を見るようになれば、AIが苦しみを感じることもあり得るというのだ。

AIの意識は、単にややこしい知能パズルではない。悲惨な結果を引き起こしかねない道義上重大な問題である。AIが意識を持っていることに人間が気づかなければ、そのつもりはなくても、本来利害を尊重しなければならない存在を服従させたり、拷問したりしてしまうかもしれない。あるいはAIに意識はないのに、意識を持っている、と誤って判断してしまったら、頭も心もないシリコンとコードの塊のために、人間の安全と幸福が脅かされるかもしれない。どちらも起こりそうな誤りだ。2000年代初めから意識を研究してきたテルアビブ大学の神経科学者リアド・ムドリク教授は、「意識を研究対象にするのは、特有の難しさがあります。そもそも、意識を定義するのが難しいからです」と話す。「その本質からして主観的だからです」。

この数十年、小さな研究コミュニティが、意識とは何か、それはどうして生じるのかという問いに粘り強く挑んできた。その奮闘によって、かつては不可能と思われた問題の解決が実質的に進んだ。AIテクノロジーが急速に進歩した現在、そうした洞察が、未検証で道義上の難問を伴う人工の意識の海域を進む上で唯一の指針になるかもしれない。

「もしこの分野で、私たちが持っている理論とすでに得られた知見を用いて意識を十分にテストできれば、専門家として重要な貢献になるでしょう」（ムドリク教授）。

ムドリク教授は、自身の意識の研究について説明するとき、大好物のチョコレートの話から始める。ひとかけら口の中に入れると、神経生物学的現象のシンフォニーが一気に引き起こされる。舌の糖と脂肪の受容体が脳につながる経路を活性化し、脳幹の細胞群が唾液腺を刺激し、頭の奥深くにあるニューロンがドーパミンを放出する。しかし、そのどの過程も、ホイルに包まれた四角いチョコレートをパキッと割り、口の中で溶かすときの感覚を説明できない。「私が理解したいのは、脳のどの働きによって、情報の処理に加えて処理している情報の体感が可能になるのかということです。情報の処理だけでも恐ろしく複雑で、脳の驚異的な成果なのですが」（同教授）。

ムドリク教授の場合、キャリアとしては情報処理の研究を選ぶほうが王道だったはずだ。意識は、神経科学においてずっと軽んじられてきたテーマであり、真面目に取り上げられないのはもちろん、理解不能とまで言われてきた。1996年版『国際心理学辞典（International Dictionary of Psychology）』の「意識」の項目には「興味をそそるが、とらえどころのない現象」と記されている。「意識に関して、読むに値する論考はいまだ書かれていません」。

だからといって、ムドリク教授はとどまらなかった。2000年代初めの学部時代から、とにかく研究したいのは意識だけだった。「若手研究者として賢明な判断ではなかったかもしれませんが、他は考えられませんでした」と同教授は話す。「意識については飽きることがなかったからです」。そして、人間の体験の性質を解読しようと決意し、神経科学と哲学の2つの博士号を取得した。

「意識」というテーマはとらえ難いが、説明できないわけではない。最も簡単に言えば、ものごとを経験する能力だ。「感性」や「自己認識」などの用語と混同されがちだが、多くの専門家が採用する定義によれば、意識とは、感性、自己認識をはじめ、他のさらに高度な能力の前提条件である。ある存在が感性を持っているとされるのは、ポジティブな経験とネガティブな経験、言い換えれば喜びと苦しみを実感できるときだ。そして、自己認識には、経験をするだけでなく、自分が経験していると認識することも含まれる。

研究室では、ムドリク教授は感性や自己認識については考えない。関心があるのは、人の意識体験を操作したときに脳内で何が起こるかを観察することだ。原理的には容易だ。誰かにブロッコリーのかけらを食べてもらったとき、その経験はチョコレートを食べたときとはまったく違うはずで、おそらく脳スキャンでも異なる結果が出るだろう。問題は、その違いが解釈できないことだ。何が情報の変化に関わっているのか（ブロッコリーとチョコレートはまったく異なる味覚受容体を活性化する）、何が意識経験の変化を表しているのかを識別することは不可能だろう。

難しいのは、チョコレートを与えてからスイッチを入れると、その人はブロッコリーを食べているように感じるなど、刺激を変えずに体験を変えることだ。それは味覚では不可能だが、視覚なら可能だ。幅広く使われているあるアプローチでは、科学者は被験者に2点の別の画像を1点ずつ別々の目で同時に見るように指示する。左右の目は両方の画像を受け取るが、両方を同時に認識できないので、多くの被験者が見え方が「入れ替わった」と報告する。つまり、最初に片方の画像を見て、次に無意識にもう片方の画像を見ているのである。入れ替わりが起きているのを自覚している最中の脳の活動を追跡すれば、科学者は入ってくる情報は同じで、その体験が変化するときに起こる事象を観察できる。

この他いくつかのアプローチを通して、ムドリク教授のチームは人間の脳内で意識が働く過程について、具体的な事実を立証することに成功した。小脳は頭蓋骨の底にある脳の部位で、カッペリーニ（極細スパゲッティ）をこぶし大に束ねたような形をしている。意識の動きには何のかかわりもないように見えるが、自転車に乗るといった潜在意識の運動タスクで大きな役割を果たす。一方で、例えば、脳の「高次の」認知領域から、比較的基本的な感覚処理に関与する領域へ接続するようなフィードバックのつながりは、意識に欠かせないように思われる（ちなみにこのことも、LLMの意識を疑うに十分な理由である。LLMには実質的なフィードバックのつながりがないからだ）。

10年ほど前、イタリアとベルギーの神経科学者のグループが、経頭蓋磁気刺激法（TMS：Transcranial Magnetic Stimulation）を用いた人間の意識のテストを考案した。TMSとは、8の字型の磁気コイルを頭部に近づけて実行する非侵襲的な脳刺激法だ。結果として得られた脳活動のパターンだけで、研究チームは、意識のある人と、麻酔がかかっている人、あるいは深く眠っている人とを区別できた。さらに植物状態（眠っていないが意識がない状態）と、閉じ込め症候群（この被験者は、意識はあるがまったく動けない状態）との違いを検知することさえできた。

これは意識の研究においては大きな前進だが、AIが意識を持ち得るのかという疑問の解決にはならない。オープンAI（OpenAI）のGPTモデルには、TMSのコイルで刺激できる脳がない …

人気の記事ランキング

1. Anthropic can now track the bizarre inner workings of a large language model 大規模言語モデルは内部で 何をやっているのか？ 覗いて分かった奇妙な回路
2. Promotion MITTR Emerging Technology Nite #32 Plus 中国AIをテーマに、MITTR「生成AI革命4」開催のご案内
3. AI companions are the final stage of digital addiction, and lawmakers are taking aim SNS超える中毒性、「AIコンパニオン」に安全対策求める声
4. This Texas chemical plant could get its own nuclear reactors 化学工場に小型原子炉、ダウ・ケミカルらが初の敷地内設置を申請
5. Tariffs are bad news for batteries トランプ関税で米電池産業に大打撃、主要部品の大半は中国製