1950年代以来、人工知能（AI）は大げさな約束と期待はずれを繰り返してきた。近年では深層学習によって大きな飛躍を遂げているものの、AIは未だに限定的な能力しか持っていない。攻撃に対して脆弱で、変化し続ける環境への適応を一般化できず、バイアスに満ちている。こういった課題によって、AIを信用することは難しく、社会に恩恵をもたらす可能性は制限されてしまっている。
3月26日、MITテクノロジーレビュー主催の年次イベント「EmTech（エムテック）デジタル」において、AI分野における2人の著名な専門家がバーチャルステージに登場し、AI分野がこうした問題をいかに克服し得るのかについて議論した。
ニューヨーク大学名誉教授で、ロバストAI（Robust.AI）の創業者兼最高経営責任者（CEO）を務めるゲイリー・マーカスは、深層学習批判で知られている。昨年出版された著作『Rebooting AI（リブーティングAI）』でマーカス教授は、AIの欠点は深層学習という手法に固有のものであると指摘した。そのため研究者は深層学習の先に目を向け、それと古典的、あるいは記号的とも言い換えられるAI（知識をエンコードし、推論が可能なシステム）と組み合わせていくべきだと論じている。
ユニティ・テクノロジーズ（Unity Technologies）のAIおよび機械学習部門の副社長を務めるダニー・ラングは、明確な深層学習支持者だ。深層学習への期待と可能性の上に自身のキャリアを築いてきたラング副社長は、ウーバーの機械学習部門の責任者、アマゾンの機械学習部門のゼネラルマネージャー、マイクロソフトの大規模機械学習部門のプロダクト責任者などを務めてきた。現在ユニティ・テクノロジーズに所属するラング副社長は、グーグルのAI関連子会社であるディープマインド（Deep Mind）やAI関連研究の非営利団体であるオープンAI（OpenAI）といった研究所がアルゴリズムに世界のあり方を教え込むためのバーチャル訓練環境の構築を支援している。
今回のイベントでは、それぞれの短いプレゼンテーションの後、パネルディスカッションへと移った。2人のさまざまな意見の食い違いは、AI分野における多くの対立を反映しており、このテクノロジーが絶え間ない理念の対立によっていかに強固に形作られてきたか、そしてAIの行く先がいかに不確実なものであるかを示すものとなった。
以下に紹介するパネルディスカッションの内容には、内容を明確にするため要約および若干の編集を加えている。
◆◆◆
——ゲイリーさんは専門とする神経科学と心理学の観点から、現在のAIに欠けているものを解明しようとしていますね？ 古典的なAIと深層学習を組み合わせることで適切なシステムが作れるとはどういうことですか？
ゲイリー・マーカス（GM）：初めに、深層学習に古典的なAIをただ組み合わせただけのものよりも遥かに複雑なハイブリッドが必要になるであろうということをお話ししておきたいと思います。少なくともそういったものが必要です。しかし、我々がまだ夢にも思っていないようなさまざまな手法があるかもしれません。柔軟な発想が必要です。
なぜ古典的なAIを組み合わせるのかということについてお話ししましょう。人間は世界に関する知識に基づいてあらゆる類の推論をしますが、深層学習には単純にその部分が欠けています。深層学習システムは、ボールとは何なのか、ボトルとは何なのか、そしてそれらがお互いにどのような作用を及ぼし合うのかといったことを表現するのは不可能です。表面的に素晴らしい成果をあげているように見えても、概して一般化は非常に困難なのです。
そこで、古典的なAIが舵取り役になります。古典的なAIは、たとえば、文章の意味表現を構造分析したり、世界で起こっていることに対する知識を持ち、それについて推論をしたりします。古典的なAIにも固有の問題があります。たいていの場合、知識のあまりにも多くの部分が人の手によってコーディングされているので、十分な範囲をカバーできません。ですが、少なくとも原理上は、抽象的知識に基づいて論理推論や帰納的推論ができるシステム作りのあり方として唯一我々が知っているのがこの手法なのです。それでも、これが完璧に正しいというわけではありませんが、今のところは他よりも圧倒的に優れています。
それから、人間が一定レベルの記号的表現ができるという心理学的な証拠も数多くあります。私はかつて認知発達の分野を専門としていましたが、生後7カ月の幼児が記号的知識を一般化できることが実験で明らかになりました。7カ月の幼 …