AI's progress isn't the same as creating human intelligence in machines

深層学習の驚くべき進化は人工知能の構築につながったか？

35歳未満のイノベーターたちは、AIを利用して新たな分子の発見、タンパク質や大規模な医療データの分析に取り組んでいる。AIは、この10年ほどで長足の進歩を遂げたが、まだ人間の知能には及ばない。 by Oren Etzioni2022.11.02

「人工知能（Artificial Intelligence）」という言葉には、実際には2つの意味がある。人工知能とは、コンピューターの中に人間の知能を構築するという根本的な科学的探究と、大容量のデータをモデリングする作業の両方を指す。それぞれの野心という意味でもこの数年における進歩の度合いにおいても、この2つの取り組みは大きく異なっている。

: この記事はマガジン「世界を変えるU35イノベーター2022年版」に収録されています。マガジンの紹介

人間レベルの知能構築と理解を目指す科学的AIは、科学の中でも最も深遠な挑戦の1つだ。1950年代に始まった科学的AIの探究は、今後も数十年に渡って続いていく可能性が高いだろう。

他方のデータ中心AIは、自動で「決定木」を構築するメソッドの発明と共に1970年代に本格的に始動し、ニューラル・ネットワーク（今は「深層学習」と呼ばれている）の際立った成功により、この10年で爆発的に人気が高まった。データ中心のAIは、「狭いAI」または「弱いAI」とも呼ばれているが、この10年ほどの急速な進歩はその力を示している。

深層学習は、大規模な訓練データセットと空前の計算能力の組み合わせによって、音声認識からゲームプレイに至る多様な狭いタスクにおいて成功を収めている。このAI手法は、計算集中型の反復過程を通じて精度が高まっていく予測モデルを構築する。この数年間、AIモデルを訓練するために人間がラベル付けしたデータが必要とされていることが、成功を妨げる大きなボトルネックになってきた。だが最近では、データの内部構造に基づいて必要なラベルを自動で作成する方向へと研究開発の焦点が移ってきている。

2020年にオープンAI（OpenAI）が公開したGPT-3言語モデルは、このアプローチの可能性と課題の両方の典型例だ。GPT-3は、数十億の文で訓練された。GPT-3は人が使いそうな言語を模倣し、極めて妥当性の高そうなテキストを自動で生成し、さらに幅広い話題の問いに対する合理的な答えを返す。

だがGPT-3は複数の問題を抱えており、研究者はその対応に取り組んでいる。GPT-3は一貫性を欠くことが多く、同じ問いに対しても矛盾した答えを返しがちだ。第2に、GPT-3は「幻覚」に陥りがちだ。1492年の米国大統領について聞かれても、喜んでその答えを返してしまう。第3に、GPT-3は訓練や実行に大きなコストが掛かるモデルだ。第4に、GPT-3は曖昧だ。なぜ特定の結論に至ったのかを理解するのが難しい。最後に、GPT-3はWebから得た訓練データの内容をオウム返しするので、性差別、人種差別、外国人嫌悪など、有害な内容を吐き出すことが多い。本質的に、GPT-3は信頼できないのだ。

こうした課題にもかかわらず、研究者はGPT-3のマルチモーダル版（DALL-E2など）を研究している。これは、自然言語のリクエストからリアルな画像を作り出すものだ。AIの開発者たちは、物理世界と交流するロボットにそうした見識をどのように活用するかということも検討している。AIは生物学、化学などの科学分野で応用されることが増えており、そうした分野の大規模データや複雑性の中からさまざまな見識を収集するために利用されている。

データ中心AIの現代の急速な進歩の大半、そして2022年の「35歳未満のイノベーター」となった35人も例外ではない。データ中心AIは強力だが、重要な制約を抱えている。それは、データ中心AIのシステムを設計し枠組みを作っているのが依然として人間だということだ。私は数年前に、「AIが文明を破壊しようとしていることをどうやって知るのか」という記事をMITテクノロジーレビューに書いた。その記事で私は、系統立ててうまく問いを立てるのは、依然として人間独自の能力だと論じた。パブロ・ピカソは、「コンピューターは役立たずだ。答えを返すことしかできない」という有名な言葉を残している。

私たちは今後も、AIシステムが優れた問いを立てられるようになる遠い未来を待ち続ける。そして、人間レベルの知能を理解し構築するにあたっての根本的な科学的課題に、さらに光を当てていくことになるだろう。

◆

オレン・エツィオーニはアレン人工知能研究所の最高経営責任者（CEO）、2022年の審査員を務めた。

人気の記事ランキング

oren.etzioni [Oren Etzioni]米国版: 現在編集中です。