独占：アルトマン解任前夜、
渦中の人物が語っていた
人工超知能への期待と恐怖

この記事のオリジナルはサム・アルトマンCEOの解任をめぐる混乱の直前、10月25日に米国版に掲載された。

イリヤ・サツケバーはうつむき加減で深々と考え込んでいた。両腕を大きく伸ばし、指を机の上に広げている。その様子は、まるでこれから最初の一音を奏でようとするピアニストのようだ。私たちは静かに座っていた。

私は、オープンAI（OpenAI）の共同創業者であり主任科学者であるサツケバーを訪問した。同社はサンフランシスコのミッション地区のありふれた通りに建つ、何の変哲もないオフィスビルにある。私はサツケバー主任科学者が実現に大きく関わってきた、世界を揺るがす例のテクノロジーの今後の展開についてインタビューした。また、同主任科学者自身の今後の展望も聞きたいと思った。特に、同社の主力製品である生成モデルの後継世代の開発から、どうして遠ざかったのかについて尋ねなければならないと考えていた。

サツケバー主任科学者が語るには、最近主に取り組んでいるのは、次なるGPTや画像生成プログラム、DALL-E（ダリー）の開発ではなく、人工超知能の可能性をひたむきに信じる同主任科学者が予見する、架空の未来テクノロジーの暴走を止める方法を突き止めることだという。

サツケバー主任科学者は、ほかにもさまざまなことを語ってくれた。同主任科学者はチャットGPT（ChatGPT）が、（目を凝らしてみれば）意識を持っている可能性があると考えている。また、オープンAIを筆頭に企業が競って生み出そうとしている人工知能（AI）テクノロジーの真の力に、世界が気づくべきだとも考えている。そしていつの日か、機械との融合を選択する人も出てくるだろうと予想している。

サツケバー主任科学者の発言の多くは、荒唐無稽なものだ。しかし、ほんの1、2年前だったら、さらに荒唐無稽に聞こえただろう。自身が語っているように、チャットGPTはすでに多くの人々の未来への期待を塗り替え、「決して起こらないだろう」から「想像より早く起こるだろう」へと変えてしまったのだ。

AI（サツケバー主任科学者が言うところの、人間と同等に賢い機械）の発展を、次なるアイフォーン（iPhone）ほど確実なテクノロジーであるかのごとく予言する前に、「すべてがどこへ向かっているのかを議論することが重要」だと話す。「いずれは本当に汎用人工知能（AGI）が実現するでしょう。それは、オープンAIが開発するものかもしれませんし、他の企業が開発するものかもしれません」。

昨年11月に予期せぬヒットとなったチャットGPTを突如リリースして以降、誇大広告でおなじみのこの業界であっても、オープンAIをめぐる話題には目を見張るものがある。このオタクっぽい800億ドル規模のスタートアップに、誰もが夢中になっている。世界中の指導者がこの企業に取り入ろうとしている（そして実際に成功したところもある）。その無骨な製品名が、ありふれた会話に登場するようにもなった。

オープンAIのサム・アルトマン最高経営責任者（CEO）は、この夏の大半を何週間にもわたるアウトリーチ活動に費やし、政治家たちを歓待し、世界中の満員の聴衆を前にスピーチをしてきた。しかし、サツケバー主任科学者は同CEOほど表に出ることはなく、インタビューにもあまり応じない。

サツケバー主任科学者が何かを語るときは、言葉を選びながら理路整然としている。何を伝えたいのか、どう伝えればいいのかを考えることに時間を割き、問いかけられた質問をまるで解かなければならないパズルのように熟考する。自身について語ることには興味がないようだ。「私はとてもシンプルな生活を送っています」と言う。「仕事に行き、家に帰る。それ以外のことはほとんどしません。やろうと思えば、参加できる社会活動やイベントはたくさんあるはずですが、私はそうしません」。

しかし、AIについて、そしてサツケバー主任科学者がその先に見据える、かつてないリスクと利益について話題を振ると、視界が開けてきた。「地球を揺るがす、記念碑的なものになるでしょう。その前後で世界は変わるはずです」。

ひたすらに、より良く

オープンAIがない世界であっても、サツケバー主任科学者はAIの歴史に名を残すだろう。同主任科学者はイスラエル系カナダ人で、ソビエト連邦で生まれたが、5歳からはエルサレムで育った（今でも、英語だけでなくロシア語とヘブライ語も話せる）。その後カナダに移住し、トロント大学でAIパイオニアのジェフリー・ヒントン名誉教授に学んだ。同名誉教授は今年はじめ、自身が開発に貢献したAIテクノロジーに対する懸念を公言した人物でもある（同名誉教授の声明についてコメントを避けた同主任科学者が、超知能の暴走に新たに着目していることは、2人が同じ考えに立っていることを示唆している）。

ヒントン名誉教授は後に、ニューラル・ネットワークの研究でヤン・ルカンとヨシュア・ベンジオ（2人とも深層学習の父と呼ばれている）と共にチューリング賞を受賞することになる。しかし、2000年代初頭にサツケバー主任科学者が同名誉教授の研究室に入った頃、AI研究者のほとんどはニューラル・ネットワークは暗礁に乗り上げたと考えていた。しかし、同名誉教授だけは違い、すでに短い文字列を一文字ずつ生成するごく小規模なモデルを訓練していた、と同主任科学者は話す。「まさに生成AIの始まりでした。性能はそこまででしたが、とてもクールに思えました」。

当時、サツケバー主任科学者は脳に魅せられていた。脳がどのように学習するのか、そして、そのプロセスを機械でどのように再現、あるいは少なくとも模倣できるのか。ヒントン名誉教授と同様に同主任科学者もまた、ニューラル・ネットワーク、そして「深層学習」と呼ばれる同名誉教授がモデルの訓練に使ったトライアル・アンド・エラーの手法に可能性を見出していた。「モデルはひたすら、より良くなり続けました」と振り返る。

2012年、サツケバー主任科学者、ヒントン名誉教授、そしてヒントンに師事するもう1人の大学院生であるアレックス・クリシェフスキーの3人は、アレックスネット（AlexNet）と称するニューラル・ネットワークを構築した。これは、写真の中の物体を識別するよう訓練したもので、当時のどのソフトウェアよりもはるかに優れた精度を持っていた。まさに深層学習のビッグバンの瞬間だった。

失敗続きの年月を経て、ニューラル・ネットワークがパターン認識において極めて効果的であることを彼らはついに示したのだ。その実現に必要だったのは、それまで多くの研究者によって扱われてきた以上の膨大なデータ（この場合、プリンストン大学の研究者であるフェイ・フェイ・リーが2006年から構築してきたイメージネット（ImageNet）のデータセットから得た100万枚の画像）と、目を見張るほどのコンピューター処理能力だけだった。

演算能力の飛躍的な進歩は、エヌビディア製のGPU（画像演算装置）と呼ばれる新型チップによってもたらされた。GPUは、高速で動くビデオゲームの映像を瞬時にスクリーンに映し出すために設計された。しかし、GPUが得意とする演算、つまり膨大な行列同士の掛け算は、偶然にもニューラル・ネットワークの訓練に必要な演算とよく似ていた。

エヌビディアは今や1兆ドル企業となった。しかし、当時、同社はこのニッチな新型ハードウェアの応用方法を見つけるのに必死だった。「新たなテクノロジーを発明するときは、突拍子もないアイデアも受け入れる覚悟が必要です」とエヌビディアのジェンスン・フアンCEOは話す。「私は常に風変わりなものを探していました。そして、ニューラル・ネットワークがコンピューター科学を一変させるという発想は、とてつもなく風変わりなものでした」。

フアンCEOによれば、エヌビディアはトロント大学の研究チームがアレックスネットに取り組んでいた際、いくつかのGPUを送って試してもらったという。しかし、彼らは店頭で売り切れ続出となった最新版のGTX 580というチップを求めていた。同CEOによると、サツケバー主任科学者は車でトロントから国境を越えてニューヨークまで行き、このチップを購入したという。「購入者が通りの角まで列をなしていました」と同CEOは振り返る。「ゲーマー1人につきGPU1個という非常に厳しいルールがあったので、1人1個までしか購入できなかったのは確かです。しかし、どんな手を使ったのかは分かりませんが、サツケバー（主任科学者）はトランクいっぱいにGTX 580を買い込んだようでした。そして、そのトランクいっぱいのGTX 580が世界を変えたのです」。

とても良い逸話だが、事実ではないかもしれない。サツケバー主任科学者は、初めてのGPUはオンラインで購入したと言い張っている。しかし、話題に事欠かないこの業界では、こうした神話化は日常茶飯事だ。同主任科学者自身はもっと謙虚だ。「もし私が、ほんの少しでも実際に進歩をもたらすことができたなら、それで成功だと考えていました」と振り返る。「当 …

人気の記事ランキング

1. What’s on the table at this year’s UN climate conference トランプ再選ショック、開幕したCOP29の議論の行方は？
2. Google DeepMind has a new way to look inside an AI’s “mind” AIの「頭の中」で何が起きているのか？ ディープマインドが新ツール
3. Google DeepMind has a new way to look inside an AI’s “mind” AIの「頭の中」で何が起きているのか？ ディープマインドが新ツール
4. This AI-generated Minecraft may represent the future of real-time video generation AIがリアルタイムで作り出す、驚きのマイクラ風生成動画