AIはいつか責任を感じるようになるか？ 40年前の誌面から

「機械が人間と知的なやり取りをするためには、人間の生き方を理解する能力を備えていなければならない」
（ドレイファス兄弟）

大胆なテクノロジーの予測は、謙虚さへの道を開く。その道を歩む中で、アルバート・アインシュタインのような偉大な人物でさえも、時には予測が外れることがある。典型的な例として、現代のコンピューター・アーキテクチャーのパイオニアであるジョン・フォン・ノイマンは、1949年にこう書いている。「コンピューター・テクノロジーで達成可能なことの限界に達したようだ」。コンピューター・テクノロジーの限界を突破し、フォン・ノイマンの予測を覆した無数の例の中に、社会心理学者のフランク・ローゼンブラットが1958年に発表した人間の脳のニューラル・ネットワークのモデルがある。ローゼンブラットは、IBM 704メインフレーム・コンピューターをベースにした装置「パーセプトロン（Perceptron）」を開発し、単純なパターンを認識できるように訓練した。パーセプトロンは最終的に、深層学習（ディープラーニング）や現代の人工知能（AI）につながった。

同様に大胆だが欠陥のある予測として、カリフォルニア大学バークレー校の教授、ヒューバート・ドレイファスとスチュアート・ドレイファス（2人は兄弟で、ヒューバートは哲学、スチュアートは工学と、専門は全く異なっていた）は、1986年1月号の『テクノロジーレビュー（Technology Review、MITテクノロジーレビューの前身）』の記事で、「科学者が知的な意思決定を下せる機械を開発できる可能性はほとんどない」と書いている。この記事は、当時出版間近だったドレイファス兄弟の著書『純粋人工知能批判（Mind Over Machine）』（1987年刊、アスキー）を基にしたもので、同書には人間の「ノウハウ」、つまり技能獲得の5段階のモデルが提言されている。ヒューバート（2017年に死去）は長きにわたりAIを批判し、早くも1960年代にはAIに対して懐疑的な論文や書籍を執筆していた。

現在もバークレー校の教授であるスチュアート・ドレイファスは、AIの進歩に感銘を受けている。「強化学習については驚いていません」とスチュアート教授は話す。しかし、一部のAIの応用、特に「チャットGPT（ChatGPT）」のような大規模言語モデル（LLM）には依然として懐疑的であり、懸念を抱いているという。「機械には身体がありません」。また、実体を持たないことが制限になり、リスクを生むと考えている。「生死に関わる可能性がある分野では、AIは危険だと思われます。なぜなら、AIは死の意味を理解しないからです」。

ドレイファス兄弟の技能獲得モデルによれば、人間のノウハウは、初心者（novice）、中級者（advanced beginner）、上級者（competent）、熟練者（proficient）、達人（expert）という5つの発達段階を経るにつれて、本質的な変化が起こる。「初心者とより有能なパフォーマーの決定的な違いは、関与のレベルだ」と同兄弟は記している。「初心者や中級者は、学習したルールを適用しているだけなので、自身の行動にほとんど責任を感じない」。だから、 失敗すればルールのせいにする。しかし、熟練したパフォーマーは自身の決断に責任を感じる。なぜなら、ノウハウが脳、神経系、筋肉に深く刻み込まれ、体現化された技能となるにつれ、目標を達成するためにルールを巧みに操れるようになるからだ。そして、結果を自分のものとして捉える。

知的な意思決定と責任の表裏一体の関係は、正しく機能する文明社会にとって不可欠な要素だが、今日のエキスパート・システムにはそれが欠けていると指摘する人もいる。また、気遣う能力、懸念を共有する能力、約束をする能力、感情を持ち、読み取る能力など、肉体を持ち、世界を動き回ることから生まれる人間の知性のあらゆる側面が欠けている。

AIが私たちの生活のさまざまな領域に浸透し続ける中、私たちはこれからの世代のエキスパート・システムに、自身の決断に責任を感じるよう教えられるのだろうか。責任、気遣い、献身、感情は、統計的推論から導き出されたり、AIの訓練に使われる問題のあるデータから引き出されたりするものなのだろうか。もしそうであったとしても、マシン・インテリジェンス（機械の知能）は人間の知能と同等のものにはならず、ドレイファス兄弟が40年近く前に予言したように、やはり何か違うものになるだろう。

 

• 7

人気の記事ランキング

1. What’s on the table at this year’s UN climate conference トランプ再選ショック、開幕したCOP29の議論の行方は？
2. Google DeepMind has a new way to look inside an AI’s “mind” AIの「頭の中」で何が起きているのか？ ディープマインドが新ツール
3. Google DeepMind has a new way to look inside an AI’s “mind” AIの「頭の中」で何が起きているのか？ ディープマインドが新ツール
4. This AI-generated Minecraft may represent the future of real-time video generation AIがリアルタイムで作り出す、驚きのマイクラ風生成動画