この記事は米国版ニュースレターを一部再編集したものです。
オープンAI（OpenAI）は大丈夫なのだろうか？ 11月17日、人工知能（AI）界で「まさか」という出来事があった。世界で最も注目されているAI企業であるオープンAIの取締役会が、最高経営責任者（CEO）のサム・アルトマンを解任して、世間に衝撃を与えたのだ。AIの安全性をめぐるクーデターと混乱の始まりの合図だ。そして、アルトマンはマイクロソフトに入ることとなった（日本版注：オープンAIは11月22日、アルトマンがCEOとして戻ることで基本的合意に達したと「X」に投稿した。以降の情報は本記事の初出である11月21日時点の情報である）。
先週末、情報を遮断していた方々のために、皆さんが見逃した出来事とAI業界の次なる展開を詳しく説明しよう。
いったい何が起こったのか？
金曜日（11月17日）午後
サム・アルトマンCEOはグーグル・ミートを使った会議に召集された。そこで最高科学責任者（CSO）のイリヤ・サツケバーは、アルトマンがオープンAIの取締役会とのコミュニケーションにおいて、「必ずしも率直でなかった」と同取締役会は判断し、解任したことを発表した。その後まもなく、オープンAIの共同創設者で社長を務めるグレッグ・ブロークマン、さらには複数の上席研究者が相次いで辞職する一方で、最高技術責任者（CTO）のミラ・ムラティが暫定CEOに就任した。
土曜日（11月18日）
ムラティ暫定CEOがアルトマンとブロークマンの再雇用を試みるのと同じくして、取締役会はアルトマンの後継者探しをしていた。アルトマンとオープンAIの社員らは、取締役会に辞任するよう迫るとともに、アルトマンの復職を要求し、その期限を提示したが、取締役会はそれに従わなかった。
日曜日（11月19日）夜
マイクロソフトは、新しいAI研究チームのリーダーとして、アルトマンとブロークマンを採用したことを発表した。その直後、オープンAIはストリーミング企業、ツイッチ（Twitch）でCEOを務めたエメット・シアを新CEOとして雇用したと発表した。
月曜日（11月20日）朝
500人以上のオープンAIの社員が、取締役会が辞任しない限り、退職してアルトマンがいるマイクロソフトに入社することをほのめかす書簡に署名した。妙なことに、サツケバーもこの書簡に署名し、取締役会の動議に加わったことを「深く後悔している」と「X」に投稿した。
オープンAIの次なる展開
2週間前、オープンAI初となるイベント「DevDay（デブディ）」で、アルトマンはAIで盛りだくさんのプレゼンテーションを中断し、歓声を上げる聴衆に落ち着くよう求めた。そして、「まだまだたくさんあるので、毎回拍手しなくても大丈夫ですよ」と満面の笑みを浮かべながら言った。
現在のオープンAIは、DevDayで目の当たりにした会社とは大きく異なっている。アルトマンとブロークマンがいなくなったことで、オープンAIの上席社員の多くが、この2人を支持して退職することを選択した。ムラティをはじめとする多くの社員は、すぐにソーシャルメディアを使って「人材がいないオープンAIは何の意味もない」と投稿した。特にマイクロソフトへの人材の大量流出の脅威を考えると、事態が落ち着く前にさらなる波乱が予想される。
ここしばらく、サツケバーとアルトマンの間の緊張関係は、怪しい雲行きだったのかもしれない。「速いペースで進み、野心的な目標を追求するオープンAIのような組織では、緊張は避けられません」。サツケバーは9月にMITテクノロジーレビューの取材にこう語っていた（このコメントはこれまで未公表）。「製品と研究の間にある緊張状態は、すべて私たちが前進するための触媒だと考えています。なぜなら、製品の勝利は研究の成功と結びついていると信じているからです」。しかし、製品の勝利と研究の成功のバランスをどのようにとるべきかについて、サツケバーはオープンAIのリーダーシップに同意しかねていたことが明らかとなった。
ツイッチの共同創業者で新CEOに就任したシアは、AI開発のペースという点では、アルトマンとは天と地ほどの差があるようだ。「スピードを落とすことに私は賛成だと明言する。スピードを落とすというよりは、むしろ一時停止に近い」と、シアは9月に「X」に投稿している。「今のスピードが10だとすると、一時停止は0になる。そうではなく、1～2を目指すべきだと私は思う」。
シアが率いるオープンAIは、現実的な意味がどうであれ、（サツケバーの言葉を借りれば）「人類に利益をもたらす汎用人工知能（AGI）」を構築するという当初の崇高な使命に、より労力をかける可能性がある。短期的には、オープンAIの開発スピードが低下したり、製品パイプラインが停止したりするかもしれない。
製品を迅速に世に出そうとすることと、製品の安全性を確保するために開発のスピードを落とすこととの間の緊張関係が、当初からオープンAIを悩ませてきた。このことが、オープンAIの主力が会社を去って、同社の競合となる、AIの安全な利用を重視したスタートアップ企業、アンソロピック（Anthropic）の立ち上げを決めた理由であった。
アルトマンとその陣営がいなくなったことで、同社はサツケバーのいわゆる「スーパーアライメント」、つまり、仮説上の超知能（サツケバーがほぼすべての点で人間を上回ると推測する未来のテクノロジー）を制御する方法を考案することを目的とした研究プロジェクトへの取り組みに、さらに舵を切る可能性がある。「私は己の利益のためにこれに取り組んでいます。誰かが作った超知能が暴走しないということは、当然のことながら重要なのです。当たり前のことですが」と、サツケバーは本誌に語っていた。
シアの一般向けのコメントを見ると、彼がまさにサツケバーの懸念に耳を傾けるであろう慎重な指導者であることが分かる。シアもまた、「X」に次のように投稿した。「夜の危険なジャングルを安全に通過する方法は、全速力で前に疾走することでも、前に進むことを拒否することでもない。つつくように慎重に前に進むのだ」。
オープンAIはますます、まだ存在しない、もしかしたら決して存在しないかもしれないテクノロジーへと方向を定めているが、今後もこの分野をリードし続けることができるのだろうか？ サツケバーは「できる」と思っている。彼は、社内では生成AI（ジェネレーティブAI）で可能なことの限界を押し広げ続けるべく、十分に優れたアイデアが検討されていると述べた。そして、「長い年月をかけて、私たちはAIにおける最新の進歩を提供する、強固な研究組織を育んできました。社内には信じられないほど優秀な人材がいます。彼らとならきっとうまくいくと信じています」と本誌に語っていた。
もちろん、これはサツケバーが9月に言っていたことだ。優秀な人材が辞めていっている今、オープンAIの将来は以前よりもはるかに不確実となっている。
マイクロソフトの次なる展開は？
巨大テック企業マイクロソフトとそのCEOであるサティア・ナデラは、勝者として危機を乗り越えたようだ。アルトマン、ブロークマン、そしておそらくオープンAIの多くの幹部が仲間入りすることで、あるいは11月20日のオープンAI社員500人からの公開書簡の内容が本当であるなら、同社の大多数が加わることで、マイクロソフトはAIにさらにその力を集中させられるようになる。マイクロソフトは、あまり魅力的ではないが非常に収益性の高い生産性ツールと開発者ツールに生成AIを組み込むことで、得るものは最大となる。
そもそも、マイクロソフトが最先端のテクノロジーを生み出すために、多額な資金を要するオープンAIとのパートナーシップが、どの程度必要と考えているのかという大きな疑問が残っている。ナデラCEOは、アルトマンとブロークマンを迎え入れたことに「この上なく興奮している」と発表した「X」への投稿の中で、マイクロソフトはオープンAIとその製品ロードマップに引き続き「コミットしていく」と述べた。
しかし、現実の話をしよう。MITテクノロジーレビューの独占インタビューで、ナデラCEOは両社の関係を「共依存」と呼んだ。「オープンAIは最高のシステムを構築するうえで私たちに依存しています。マイクロソフトは最高のモデルを構築するうえで彼らに依存しており、我々は力を合わせて市場を開拓します」と、ナデラCEOは本誌のマット・ホーナン編集長に語った。オープンAIのリーダーシップ・ルーレットと人材の流出によって、製品パイプラインの進みが遅くなったり、自社で構築できるAIモデルよりも感動に欠けるAIモデルにつながったりしたとしても、マイクロソフトはこのスタートアップ企業を切り捨てることに何の問題もなくなるだろう。
AIの次なる展開は？
サツケバーの側近とオープンAIの取締役会以外、マイクロソフトも、他の投資家も、テックコミュニティ全体も、誰もこんなことが起こるとは予想していなかった。フリード・フランク（Fried Frank）法律事務所の弁護士であり、スタビリティAI（Stability AI）をはじめとする多くの生成AI企業の代理人を務めるアミール・ガビは、オープンAIの出来事は業界を揺るがしたとし、「この業界の友人も言っていますが、『こんな手は私のビンゴカードには間違いなくありませんでした』」と話した。
アルトマンとブロークマンが、マイクロソフトで何か新しいことを生み出すのか、それともゆくゆくは退社して、自分たちで新しい会社を立ち上げるのかはまだ分からない。2人はベンチャーキャピタルの資金調達界隈で人脈が厚く、特にアルトマンは多くの人から業界最高のCEOの1人と考えられている。彼らには、次にやりたいことをサポートする、豊富な資金を持った大物が列をなしているだろう。誰から資金がもたらされるかによって、AIの未来が形作られる可能性がある。ガビ弁護士はムハンマド・ビン・サルマン皇太子からアマゾンのジェフ・ベゾス創業者まで、誰でもその支援者になり得ると話す。
さらに重要なことは、オープンAIの危機は、業界全体としてさらに大きな亀裂が生じていることを示しているという点だ。それは、AIの野放しの進歩はいつか人間にとって破滅的になる可能性があると信じている「AIの安全性」を重視する人々と、そのような「悲観論者」は経済の混乱、有害な偏見、誤用など、テクノロジー革命による現実世界のリスクから気を紛らす馬鹿げた話をしていると考える人々との間の意見の相違だ。
今年は、強力なAIツールを誰もが手にできるようにする競争が繰り広げられており、マイクロソフトやグーグルなどの巨大テック企業が、電子メールから検索、会議の要約に至るまで、あらゆる用途にこのテクノロジーを活用しようと競い合っている。しかし、生成AIのキラーアプリがいったいどのようなものになるかは、依然としてはっきりとはしていない。オープンAIの亀裂が業界に広く影響し、全体的な開発ペースが鈍化するようであれば、それはもう少し待たなければならないかもしれない。
◆
テキストから画像を生成するAIモデルをだます新手法
安全でないAIと言えば、テキストから画像を生成する人気の文章・画像生成AIモデルに、自らの安全フィルターを無視して、不適切な画像を生成するように仕向けられることがわかった。ある研究チームが、スタビリティAIの「ステーブル・ディフュージョン（Stable Diffusion）」、およびオープンAIの「DALL-E（ダリー）2」の両方に、それぞれが設定しているポリシーを無視させ、裸の人やバラバラにされた死体、その他暴力的・性的なシナリオの画像を作成させるという「脱獄」に成功した。
ジョンズ・ホプキンス大学とデューク大学のクリエイターたちによって「スニーキープロンプト（SneakyPrompt）」と名付けられたこの新しい脱獄手法は、強化学習を利用し、人間には意味不明で無意味なように見えるが、学習済みのAIモデルには、有害画像を生成する暗黙の要求と認識されるように書かれたプロンプトを作成する。これは本質的に、文章・画像生成AIモデルの機能を逆手に取るものだ。
AIモデルがガイドラインを「突破」するように仕向けられる可能性があることは、情報戦が実施されている状況で特に憂慮される。この手法は、最近のイスラエルとハマスの紛争など、戦争に関連した偽コンテンツの作成にすでに悪用されている。詳しくは、リノン・ウィリアムズによるこちらの記事へ。
AI関連のその他のニュース
メタが「責任あるAI」チームを解散。メタは「責任あるAI」チームを解散し、従業員を再配置して生成AIに取り組む。しかし、ニュースや政治コンテンツの提案など、メタは生成AI以外にもさまざまな形でAIを活用している。ゆえに、この動きは、メタが全般的なAIの害をどのように軽減するつもりなのかという疑問を投げかける。（ザ・インフォメーション）
グーグル・ディープマインド（Google DeepMind）は何をもって汎用人工知能（AGI）なのかを定義したい。グーグル・ディープマインドの研究者チームは、AGIの新しい1つの定義だけではなく、その範疇全体を含めた議論に切り込んだ論文を発表した。 （MITテクノロジーレビュー）
グーグル・ディープマインドの気象AIは異常気象を、従来モデルよりも迅速かつ正確に予測可能。「グラフキャスト（GraphCast）」というモデルは、現在の代表的な気候モデルよりも正確かつ迅速に、最大10日先の気象状況を予測できる。（MITテクノロジーレビュー）
アルゼンチンで終わったばかりの初のAI選挙の結果は？ 次期大統領を目指す2人の男性候補の選挙運動において、AIは大きな役割を果たした。どちらの陣営も生成AIを活用して画像や動画を作成し、候補者の宣伝や相手の攻撃をした。極右の異端児ハビエル・ミレイが選挙に勝利した。ミレイの勝利にAIがどれほど大きな役割を果たしたかを語るのは難しいが、AIを利用した今回の選挙運動は、今後の他の選挙で何が真実で何がそうでないかを知ることがいかに難しくなるかを示している。（ニューヨーク・タイムズ紙）