ベールに包まれた
世界最高峰の頭脳集団
「オープンAI」の正体

オープンAI（OpenAI）では毎年、従業員が汎用人工知能（AGI）の実現時期の予想を投票する。基本的に従業員の絆を深める楽しい余興のようなもので、人によって予想は大きく異なる。だが、人間のような自律システムが可能か否かの議論に関しては、従業員の半分が15年以内に実現する可能性が高いと考えている。

この記事はマガジン「10 Breakthrough Technologies」に収録されています。 マガジンの紹介

設立から4年という短い間に、オープンAIは世界屈指の人工知能（AI）研究所の一角を担うようになった。アルファベット（Alphabet）のAI子会社であるディープマインド（DeepMind）のような大手と並び、常に見出しを飾るような数々の研究を発表しているオープンAIは、イーロン・マスクや伝説の投資家サム・アルトマンが設立者に名を連ね、シリコンバレーでも一目置かれた存在だ。

とりわけ、その使命は高く評価されている。オープンAIの目標は、人間の学習能力と推論能力を持つAI、つまりAGIを作る最初の企業になることだ。その目的は世界制覇ではない。むしろ、テクノロジーが安全に進化し、その恩恵が世界に平等に分配されるようにしたいと考えている。

このことが示唆するのは、テクノロジーを安易に進化させたら、AGIは簡単に暴走しかねないということだ。現在、私たちの周りにある特化型AI（柔軟性のないAI）がいい例だ。アルゴリズムに偏りがあり、脆弱であることが分かっている。つまり、アルゴリズムが著しく乱用され、酷い詐欺行為に使われる可能性があるのだ。また、開発や運用に費用がかかるため、少数勢力に支配が集中する傾向にある。このまま進めば、善意のある指導者の注意深い導きがない場合、AGIは悲惨な結果をもたらすかもしれない。

オープンAIは、その善意のある指導者になりたいと考え、条件を満たすようなイメージを注意深く作り上げた。高収益企業が支配する業界で、オープンAIは非営利団体として設立され、最初の声明で、この違いが「株主ではなく、あらゆる人に価値をもたらす」と述べた。オープンAI憲章は、その忠誠度合いで従業員の給与査定も決まるほど神聖なものとされているが、「主な信認義務は人類に対して生じる」とさらに宣言している。同憲章はさらに、AGIを安全に構築することは極めて重要で、他の組織が先に実現しそうになれば、オープンAIは競合せずに協力すると続けている。投資家やメディアはこの話を好んだ。2019年7月には、マイクロソフトが新たに10億ドルをオープンAIに投資した。

だが、オープンAIのオフィスで過ごした3日間と、現従業員や元従業員、共同研究者、友人、その他AI業界の専門家など総勢約30名への取材からは、別の側面が見えてくる。会社が公に提唱していることと、密室での運営内容の間に「ずれ」があるのだ。時間が経つにつれ、熾烈な開発競争や増大する資金需要の圧力が、透明性や開放性、協調性を保つという設立時の理想を侵食していった。現従業員や元従業員の多くは、話すことが認められていなかったり、報復を恐れたりして、匿名を強く希望した。彼らの説明によれば、オープンAIは高尚な目標を掲げているにもかかわらず、秘密保持や企業イメージの保護、従業員たちの忠誠心の保持に執心しているという。

AIの概念ができあがった頃からずっと、AI業界は、人間のような知性を理解し、再現しようとしてきた。1950年、英国の著名な数学者でコンピューター科学者のアラン・チューリングは、「機械は考えることができるのか？」という今では名の知れた挑発的な論文を書き始めた。 6年後、チューリングの執拗な考えに魅了された科学者グループが、ダートマス大学に集まり、規律を作り上げた。

「チューリングの疑問は、あらゆる知性の歴史に関する最も根本的な質問の1つです」というのは、シアトルに本拠を置く非営利のAI研究所、アレン人工知能研究所（Allen Institute for Artificial Intelligence：AI2）のオレン・エツィオーニCEOだ。「宇宙の起源は解明されているのか、物質とはなんだろうか、などという質問と同様です」。

問題は、AGIの概念が常に漠然としているということだ。実際の姿形や、最低限何ができるべきなのかなど、誰も説明できていない。たとえば、AGIがたった1種類のものを指すのかということも明らかではない。人間の知能は一部分にすぎないのかもしれない。また、AGIの使用目的に関する意見もさまざまだ。理想的な見方をすれば、睡眠や人間同士の非効率なコミュニケーションを必要としないマシン・インテリジェンスは、気候変動や貧困、飢餓などの複雑な課題を解決できるかもしれない。

だが、本当に実現可能だとしても、こういった高度なAIの開発には数十年から数百年かかるだろうという意見が業界では圧倒的だ。多くの人は、この目標をあまりにも熱心に追究すると、却って逆効果になるのではないかと考えている。1970年代および80年代後半から90年代初頭にかけて、AI業界は過大な約束をして期待外れに終わった。一晩で資金は枯渇し、全世代の研究者に深い傷跡が残った。「AI業界は停滞しているように感じました」というのはピーター・エッカースリー博士だ。同博士は最近まで、オープンAIが加盟する非営利団体、「パートナーシップ・オン・AI（Partnership on AI）」の研究部長だった。

こうした時代背景の中、オープンAIは2015年12月11日にトップ記事を飾り世界に登場した。オープンAIは、AGIの開発を宣言した最初の企業だったわけではない。5年早く宣言したディープマインドは、2014年にグーグルに買収された。だが、オープンAIは異なっていたように思えた。まず、資金力が衝撃的だった。オープンAIは最初から、マスクやアルトマン、ペイパルの共同創業者ピーター・シールなどの個人投資家から10億ドルを提供されたのだ。

メディアは、創立時の従業員にそうそうたる面子がいたことに加えて、数多くの有名人が名を連ねる出資者リストに色めき立った。最高技術責任者（CTO）はオンライン決済企業ストライプ（Stripe）でテクノロジーを担当したグレッグ・ブロークマン、研究部長はAIの先駆者ジェフリー・ヒントン博士に師事したイリヤ・サツケバー、そして中核技術チームは、一流大学を卒業したばかりの研究者や他企業から引き抜かれた研究者7名で構成されていた（2019年2月、マスクは方向性を巡り意見の相違があったとして同社から手を引くことを発表した。1カ月後、アルトマンはスタートアップ養成企業Yコンビネーター（Y Combinator）の社長を辞任してオープンAIのCEOになった）。

だが、まず何よりも、非営利研究機関であるオープンAIは声明を発表した。「自身の好奇心に集中して良い結果を優先できる一流の研究機関が存在することが重要です」と声明で述べている。「研究者は、論文やブログ投稿、コードなどの形態を問わず、自らの成果を公開することを強く推奨され、（もし存在するならば）特許は世界と共有されます」。オープンAIが明確に批判したことはないが、声明の意味は明らかだった。ディープマインドのような他の研究所は商業的利益の制約を受けているため、人類のために活動できない。他の研究所が閉鎖的なのに対し、オープンAIは開放的だ。

企業による占有が進み、短期的な経済的利益に焦点が当てられた研究環境において、オープンAIは最大の問題を進展させるために必要な新しい資金調達法の道筋を作った。「オープンAIは希望の光でした」というのは、同社の軌跡を綿密に追ってきた機械学習の専門家チップ・フエンだ。

サンフランシスコの18丁目通りとフォルサム通りの交差点にあるオープンAIのオフィスは、神秘的な倉庫のように見える。歴史を感じさせる建物の外装はくすんだ灰色で、着色ガラスがはめられた窓のほとんどはカーテンが閉じられていた。色あせた赤ペンキで建物の角を囲むように書かれた「パイオニア・ビルディング（PIONEER BUILDING）」という文字は、以前の所有者であるパイオニア・トラック・ファクトリー（Pioneer Truck Factory）の名残りだ。

建物の中に入ると、明るく開放的な空間が広がる。1階には、複数の共有スペースと2つの会議室がある。1つは、大規模な会議ができるほどの大きさで、「宇宙の旅（A Space Odyssey）」と呼ばれ、もう1つは、美しい電話ボックスのような会議室で、「インフィニット・ジェスト（Infinite Jest、無限の戯れ。デヴィッド・フォスター・ウォレスの小説のタイトル）」と呼ばれている。訪問の間、私が入室できたのはこれらのスペースだけだった。全従業員の机や数台のロボットといったあらゆる興味深いものが置かれた2階と3階へ行くことは禁じられていた。時間になると、取材を受ける人が私の所へ来る。取材の合間には、従業員が監視の目を光らせていた。

ブロークマンCTOに面会しようと来社したのは、美しい青空の日だった。ブロークマンCTOは緊張して警戒しているようだった。「ここまでのアクセスを許可したことはありません」と、ためらいがちな笑顔で言った。彼はカジュアルな服を身につけ、多くのオープンAIの従業員と同様、見栄えのしない髪型をしていた。これは、効率的で飾り気のない考え方を反映してのことだろう。

ブロークマンCTO（31歳）は、家族が趣味で運営していたノースダコタ州の農場で育ち、本人によれば「意欲的で静かな子供時代」を過ごした。牛乳を搾り、卵を集め、独学で勉強した数学に夢中になった。2008年、数学とコンピューターサイエンスの2科目の専攻を目指してハーバード大学に入学したが、現実世界へ踏み出すことにすぐ不安になった。1年後、ハーバード大学を中退してマサチューセッツ工科大学（MIT）へ入学し、数カ月後再び中退した。二度目の中退で最後だと決心し、サンフランシスコへ居を移すと、もう決してふり返らなかった。

全社会議の間、私がオフィスに居座らないよう、ブロークマンCTOは私を昼食へ連れ出した。通りの反対側にあるカフェで、彼はしばしば同社の使命と、科学史に残るこれまでの画期的な成果を引き合いに出して、オープンAIについて、熱意と誠意、そして驚きをもって語った。リーダーとしてのブロークマンCTOのカリスマ性を高く評価するのは簡単だ。

読んだ本から記憶に残る一節を思い出しながら、彼はシリコンバレーで好まれている米国の月面着陸競争の話をした（有名だがおよそ出所の疑わしい話を引用して、「私が本当に好きな話は、管理人の話です。ケネディ大統領が管理人のところに行って『何をしているのですか？』と尋ねると、管理人は『はい、人を月に送るのを手助けしようとしているのです！』と言ったのです」と話した）。また、大陸横断鉄道の話（「実際、すべて手作業で実施された大規模プロジェクトで、極めて無謀なほど巨大だったのです」）や、トーマス・エジソンの白熱電球の話もしていた（「著名な専門家の委員会が『白熱電球は決してうまくいかない』と主張したのですが、1年後にエジソンは電球を出荷しました」）。

 

ブロークマンCTOは、オープンAIが挑む賭けのために、批判や詮索を受けていると感じている。だが、そうした批判や詮索に対する、ブロークマンCTOのメッセージは明確だ。人々は自分たちが望むことすべてに懐疑的になるが、これは革新への大きな代償だという。

創立間もない頃のオープンAIで働き始めた人は、当時みなぎっていたエネルギーや興奮、目的意識を覚えているという。小規模な体制で、緊密なつながりがあり、管理はゆるく、くだけた雰囲気だった。あらゆる考えや議論が歓迎されるフラットな構造だと誰もが信じていた。

イーロン・マスクは多くの神話の誕生に少なからず関与した。「マスクはこんな風にいったのです。『分かりました。AGIはまだ手の届かないところにあるかもしれません。しかし、もしそうでなかったらどうでしょう？』」。そう語るのは、カリフォルニア大学バークレー校のピーター・アビール教授だ。アビール教授は、数名の学生たちとともにオープンAIに、設立当初から2年間、勤務していた。「『今後5～10年以内にAGIが完成する可能性が1％や0.1％でもあるとしたらどうでしょう。私たちはその事実について慎重に考えるべきではないでしょうか？』とマスクは言いました。この言葉に私は共鳴したのです」とアビール教授は言う。

だが、形式張らない社風は、方向性の曖昧さにもつながった。2016年5月、グーグルの研究者ダリオ・アモデイがアルトマンとブロークマンCTOを訪ね、オープンAIがしていることは誰からも理解されていないと告げた。ニューヨーカー（the New Yorker ）誌に公開された記事では、オープンAI自身も分かっていたかどうか怪しいという。「現時点での私たちの目標は、今できることに最善を尽くすことです」と、ブロークマンCTOは言う。「少し曖昧ですが」。

それでも数カ月後、ダリオ・アモデイはオープンAIに加わった。ダリオの妹、ダニエラ・アモデイが以前ブロークマンCTOと共に働いていたため、ダリオはすでにオープンAIのメンバーの多くを知っていた。2年後、ブロークマンCTOの要請を受け、ダニエラもオープンAIに加わった。「想像してみてください。私たちはゼロから始めたのです」と、ブロークマンCTOは言う。「私たちは、ただAGIを実現させたいという理想を掲げていたの …

人気の記事ランキング

1. The 8 worst technology failures of 2024 MITTRが選ぶ、 2024年に「やらかした」 テクノロジー8選
2. Promotion Innovators Under 35 Japan × CROSS U 無料イベント「U35イノベーターと考える研究者のキャリア戦略」のご案内
3. Bringing the lofty ideas of pure math down to earth 崇高な理念を現実へ、 物理学者が学び直して感じた 「数学」を学ぶ意義
4. The 8 worst technology failures of 2024 MITTRが選ぶ、 2024年に「やらかした」 テクノロジー8選
5. The next generation of neural networks could live in hardware 消費電力「数十万分の一」、ハード実装の次世代ニューラルネット

▼Promotion