KADOKAWA Technology Review
×
What Happens When You Give an AI a Working Memory?

グーグル・ディープマインドが作業記憶付きのニューラルネットワークを開発中

人間のようにパズルを解いてみせる人工知能。 by Will Knight2016.10.13

英国のグーグル・ディープマインドの研究者が考案した新型コンピューターは、現在最高性能をもつ人工知能システムに新たに重要な特性を加えることで、性能を高めた。その特性とは、ある種の作業記憶だ。

研究者によると、そのコンピューターは、巨大な神経回路ネットワークがある特殊な記憶形態につながることで成り立っており、どんな情報を記憶に残せばよいかを自分で判断することで比較的複雑なタスクを処理できるという。たとえばスパゲッティのように絡んだロンドンの地下鉄網のある駅から別の駅までの最適な経路を判断するのに、さまざまなパターンの図を探査し、その特徴を学んで答えを出すのだ。

グーグル・ディープマインドの研究者が弁別可能型(differentiable:微分可能)ニューラルコンピューターと呼ぶシステムは、何を記憶に残すかの判断を含め、コンピューターがニューラルネットワークの基底にあるバックプロパゲーション(誤差逆伝播法)と呼ばれる数学的処理で学びながら動作する。ネットワークはデータから学習するため、自動的に情報を記憶基盤に蓄えていく。

「このシステムは、従来のコンピューターと同じく、記憶を使って複雑なデータ体系を示したり操作したりしますが、データから学んで処理できるのです」と 2016年10月12日版ネイチャー誌の論文で著者のアックス・グレイヴス、グレッグ・ウェイン、デミス・ハサビスが記している。

この進歩は、人間に近い能力がある人工知能実現への小さな一歩だ。現在はまだ制限があるが、カーネギーメロン大学(CMU)で機械学習と人工知能を研究する ルスラン・サラクトゥディノフ准教授は、弁別可能型ニューラルコンピューターを使ったシステムがいつか有益な働きをすることになるかもしれない、という。たとえば、より進んだレベルのニューラルネットワークは、ノイズが多いことで知られるウィキペディアを探査し、タイトル、場所、データなど、どの概念が重要で、メモリーに蓄えればいいかを自身で判断できる。 あるいはロボットに、ある設定で学んだ情報を全く別の設定で使わせたりできるかもしれない。「これはとても素晴らしい研究です」とサラクトゥディノフ准教授はいう。

最新の機械学習システムは、ある種のタスクには非常に優れている。画像で顔を認識したり、話し言葉を認識したりする。また訓練により、コンピューター・ゲームを達人レベルでプレイするなど、複雑なタスクを学べる。だが、学習には大量のデータを必要とし、人間のように学習したことを後に活用するために記憶に残せない。これが言語を含むさまざまな領域で問題となっている(「人工知能と言語」参照)。

だがサラクトゥディノフ准教授は、そのような分別可能型ニューラルコンピューターをより複雑化するのが難しいのだと指摘する。 なぜならコンピューターはその記憶にアクセスするために、蓄えられたすべての記憶を問いただすという複雑な計算をしなければならない。

「そのような働きをさせるのはとてつもなく難しいことです。スケールアップ(性能向上)に少し問題があるといえるでしょう。」

興味深いことにこの研究は、人工知能研究でこれまで長らく仲の良くなかった2つの分野を近づけることになった。人工知能の初期には、情報をシンボル化すべく機械をプログラミングするのが主要な研究だったが、現在の動向は、コンピューター自身がタスク処理を学ぶための巨大なニューラルネットワークを使うものに移行している。長い間、人工知能分野の伝統主義者や認知科学者は、ニューラルネットワークは情報をシンボル化するより深い能力を得ずして人間がすることをできるのだろうかと疑問を投げかけてきた。

「ネットワークが前例から『アルゴリズム』を学ぶその能力に私は最も感銘を受けました」とニューヨーク大学の認知科学者ブレンデン・レイク研究員はいう。レイク研究員が研究しているコンピューターが人間の思考を模倣する方法は、深層学習の有用性を拡大させ得る。「分類したり、最短経路を見つけたりするアルゴリズムは、伝統的コンピューター科学の基本です。それらは伝統的に、プログラマーが設計して実行させるものだったのです」

しかしレイク研究員は、システムの動作形態は、人間に近いとはいえないと指摘する。

「人は限られた経験から、特にそれが自分の分野であれば。新たなタスクを理解できます。それに対し弁別可能型ニューラルコンピューターは、それぞれのタスクにつき何万、もしくは何百万もの前例を学ばなければなりません。新たなタスクを素早く学ぶ人間の能力は、人工知能の次の大きな課題になると思います」

人気の記事ランキング
  1. An ancient man’s remains were hacked apart and kept in a garage 切り刻まれた古代人、破壊的発掘から保存重視へと変わる考古学
  2. This startup just hit a big milestone for green steel production グリーン鉄鋼、商業化へ前進 ボストン・メタルが1トンの製造に成功
  3. AI reasoning models can cheat to win chess games 最新AIモデル、勝つためなら手段選ばず チェス対局で明らかに
  4. OpenAI has released its first research into how using ChatGPT affects people’s emotional wellbeing チャットGPTとの対話で孤独は深まる? オープンAIとMITが研究
ウィル ナイト [Will Knight]米国版 AI担当上級編集者
MITテクノロジーレビューのAI担当上級編集者です。知性を宿す機械やロボット、自動化について扱うことが多いですが、コンピューティングのほぼすべての側面に関心があります。南ロンドン育ちで、当時最強のシンクレアZX Spectrumで初めてのプログラムコード(無限ループにハマった)を書きました。MITテクノロジーレビュー以前は、ニューサイエンティスト誌のオンライン版編集者でした。もし質問などがあれば、メールを送ってください。
MITTRが選んだ 世界を変える10大技術 2025年版

本当に長期的に重要となるものは何か?これは、毎年このリストを作成する際に私たちが取り組む問いである。未来を完全に見通すことはできないが、これらの技術が今後何十年にもわたって世界に大きな影響を与えると私たちは予測している。

特集ページへ
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を発信する。

特集ページへ
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る