AIはいつか責任を感じるようになるか？ 40年前の誌面から

「機械が人間と知的なやり取りをするためには、人間の生き方を理解する能力を備えていなければならない」
（ドレイファス兄弟）

大胆なテクノロジーの予測は、謙虚さへの道を開く。その道を歩む中で、アルバート・アインシュタインのような偉大な人物でさえも、時には予測が外れることがある。典型的な例として、現代のコンピューター・アーキテクチャーのパイオニアであるジョン・フォン・ノイマンは、1949年にこう書いている。「コンピューター・テクノロジーで達成可能なことの限界に達したようだ」。コンピューター・テクノロジーの限界を突破し、フォン・ノイマンの予測を覆した無数の例の中に、社会心理学者のフランク・ローゼンブラットが1958年に発表した人間の脳のニューラル・ネットワークのモデルがある。ローゼンブラットは、IBM 704メインフレーム・コンピューターをベースにした装置「パーセプトロン（Perceptron）」を開発し、単純なパターンを認識できるように訓練した。パーセプトロンは最終的に、深層学習（ディープラーニング）や現代の人工知能（AI）につながった。

同様に大胆だが欠陥のある予測として、カリフォルニア大学バークレー校の教授、ヒューバート・ドレイファスとスチュアート・ドレイファス（2人は兄弟で、ヒューバートは哲学、スチュアートは工学と、専門は全く異なっていた）は、1986年1月号の『テクノロジーレビュー（Technology Review、MITテクノロジーレビューの前身）』の記事で、「科学者が知的な意思決定を下せる機械を開発できる可能性はほとんどない」と書いている。この記事は、当時出版間近だったドレイファス兄弟の著書『純粋人工知能批判（Mind Over Machine）』（1987年刊、アスキー）を基にしたもので、同書には人間の「ノウハウ」、つまり技能獲得の5段階のモデルが提言されている。ヒューバート（2017年に死去）は長きにわたりAIを批判し、早くも1960年代にはAIに対して懐疑的な論文や書籍を執筆していた。

現在もバークレー校の教授であるスチュアート・ドレイファスは、AIの進歩に感銘を受けている。「強化学習については驚いていません」とスチュアート教授は話す。しかし、一部のAIの応用、特に「チャットGPT（ChatGPT）」のような大規模言語モデル（LLM）には依然として懐疑的であり、懸念を抱いているという。「機械には身体がありません」。また、実体を持たないことが制限になり、リスクを生むと考えている。「生死に関わる可能性がある分野では、AIは危険だと思われます。なぜなら、AIは死の意味を理解しないからです」。

ドレイファス兄弟の技能獲得モデルによれば、人間のノウハウは、初心者（novice）、中級者（advanced beginner）、上級者（competent）、熟練者（proficient）、達人（expert）という5つの発達段階を経るにつれて、本質的な変化が起こる。「初心者とより有能なパフォーマーの決定的な違いは、関与のレベルだ」と同兄弟は記している。「初心者や中級者は、学習したルールを適用しているだけなので、自身の行動にほとんど責任を感じない」。だから、 失敗すればルールのせいにする。しかし、熟練したパフォーマーは自身の決断に責任を感じる。なぜなら、ノウハウが脳、神経系、筋肉に深く刻み込まれ、体現化された技能となるにつれ、目標を達成するためにルールを巧みに操れるようになるからだ。そして、結果を自分のものとして捉える。

知的な意思決定と責任の表裏一体の関係は、正しく機能する文明社会にとって不可欠な要素だが、今日のエキスパート・システムにはそれが欠けていると指摘する人もいる。また、気遣う能力、懸念を共有する能力、約束をする能力、感情を持ち、読み取る能力など、肉体を持ち、世界を動き回ることから生まれる人間の知性のあらゆる側面が欠けている。

AIが私たちの生活のさまざまな領域に浸透し続ける中、私たちはこれからの世代のエキスパート・システムに、自身の決断に責任を感じるよう教えられるのだろうか。責任、気遣い、献身、感情は、統計的推論から導き出されたり、AIの訓練に使われる問題のあるデータから引き出されたりするものなのだろうか。もしそうであったとしても、マシン・インテリジェンス（機械の知能）は人間の知能と同等のものにはならず、ドレイファス兄弟が40年近く前に予言したように、やはり何か違うものになるだろう。

 

• 7

人気の記事ランキング

1. Anthropic can now track the bizarre inner workings of a large language model 大規模言語モデルは内部で 何をやっているのか？ 覗いて分かった奇妙な回路
2. Promotion MITTR Emerging Technology Nite #32 Plus 中国AIをテーマに、MITTR「生成AI革命4」開催のご案内
3. AI companions are the final stage of digital addiction, and lawmakers are taking aim SNS超える中毒性、「AIコンパニオン」に安全対策求める声
4. What is vibe coding, exactly? バイブコーディングとは何か？ AIに「委ねる」プログラミング新手法
5. Tariffs are bad news for batteries トランプ関税で米電池産業に大打撃、主要部品の大半は中国製