What's changed since the "pause AI" letter six months ago?

マスクも署名した「AI開発6カ月停止」で何が変わったか？

人類に対する脅威になるとして、GPT-4よりも高度なAIの一時開発停止を求める公開書簡が発表されて6カ月が経った。イーロン・マスクら著名人が署名したこの書簡をまとめたMITのマックス・テグマーク教授が、この半年間を振り返った。 by Melissa Heikkilä2023.10.02

この記事は米国版ニュースレターを一部再編集したものです。

人工知能（AI）を取り巻く実存的リスクを考える非営利団体、生命の未来研究所（Future of Life Institute）が、イーロン・マスク、スティーブ・ウォズニアック、ヨシュア・ベンジオら著名人が署名した書簡を2023 年3月22日に公開してから、6カ月が過ぎた。テック企業に対し、オープンAI（OpenAI）の「GPT-4」よりも高度なAI言語モデルの開発を6カ月間「一時停止」するように呼びかけた書簡である。

結果はどうだったか。もちろん、停止されなかった。

FLIの創設者兼代表でマサチューセッツ工科大学（MIT）のマックス・テグマーク教授とともに、この半年間の経過を振り返ってみた。以下はテグマーク教授との会話の抜粋である。

◆

AIリスクのオヴァートンの窓をずらす

テグマーク教授によれば、以前からAI研究者やテック企業のCEO（最高経営責任者）と話す中で、AIがもたらす実存的リスクに大きな不安があることは明白になっていた。だが、「ラッダイト運動の扇動者だと嘲笑されるのを恐れて」公に声を上げようとする人はいなかったという。「書簡の主な目的は、この話題をメインストリームにし、人々が恐れずに懸念を表明できるようにオヴァートンの窓をずらすことでした」とテグマーク教授は語る。「6カ月経って、その点については確かに成功しました」。

だが、それだけだった

「問題は、どの企業も今も全速力で突き進んでいるのに、米国にはまだ意義ある規制がないことです。米国の為政者は、口ではいろいろ言いますが、最も危険なものを有効に抑制する法律を年内に可決させる気はありません」。

政府が介入すべき理由

テグマーク教授は、AIに関するルールを施行する米国食品医薬品局（FDA）型の機関の設立と、テック企業にAI開発の一時停止を強制できる政府機能を求めてロビー活動をしている。「（サム・アルトマン、デミス・ハサビス、ダリオ・アモデイのようなAIのリーダー）自身が深刻に懸念していることも明らかです。ただ、こうした人々は、自分だけが一時停止することはできないとわかっています」とテグマーク教授は言う。一人で一時停止するのは「自身の企業にとっては災難ですからね。単に競争に負けて、そのCEOは一時停止をしない誰かに挿げ替えられるのはわかり切っています。一時停止を実現させる唯一の手段は、世界各国の政府が介入して、全関係者に一時停止を強制する安全性基準を導入することです」。

ではイーロン・マスクはどうなのか？

マスクは一時停止を求める書簡に署名した。だが、結局は「宇宙の本質を解明する」AIシステムを構築するため、エックス・ドットAI（X.AI）という名前のAI企業を新たに設立した。（マスクはFLIの顧問である。）「他の多くのAIリーダーと同じように、マスクも一時停止を望んでいることは明らかです。しかし、それが実現しない限りはゲームを続けるしかないと考えているのです」。

テック企業のCEOたちの本性は善だと考える理由

「AIと共存するうえで、こうしたCEOたちは悪い未来ではなく、良い未来を心から望んでいると私は考えています。その理由は、彼らをずっと前から知っているからです。定期的に話をしており、たとえ私的な会話の中であってもそう感じます」。

実存的リスクに注目すると、目前の害が蔑ろにされるとの批判に対して

「現在起こっている問題を憂慮する人と、目前に迫る害悪を懸念する人が、内輪もめをするのではなく協力することが重要です。私は、今ある害を問題視する人を批判するつもりは一切ありません。素晴らしい取り組みだと思いますし、その問題をとても心配しています。その種の内輪もめにとらわれると、巨大テック企業を抑制したかったはずが、むしろ巨大テック企業による分断と征服を助長することになります」。

テグマーク教授が考える今、回避すべき3つの過ち

1つ目は、.テック企業に制度づくりを任せること。2つ目は、.論点を西側対中国の地政学的な争いに変えてしまうこと。そして、3つ目は、実存的な脅威のみ、あるいは現状のみを考えることである。すべての問題が、人間が無力化される危機と地続きであることを認識しなければならない。全員で団結してこの脅威に立ち向かう必要がある。

◆

AIビジョンシステムのバイアスを軽減する新ツール

ソーシャルメディア・フィード上の画像の分類やタグ付け、写真・動画内の物体や顔の検出、画像の関連要素の強調表示など、コンピュータービジョン・システムはいたるところで使われている。しかし、コンピュータービジョン・システムにはバイアスが多く含まれ、画像に黒人や褐色人種、女性が写っている場合は正確さが下がる。

そして、もう一つ問題がある。それは、研究者がこうしたシステムのバイアスを発見する現在の方法は、それ自体が偏っており、人間に存在する複雑性を適切に考慮せずに、人々を大まかなカテゴリーに分類しているということだ。

ソニーは、肌色の尺度を2次元に拡張し、肌の色（明るい色から暗い色まで）と肌の色相（赤色から黄色まで）の両方を測定するツールを開発。MITテクノロジーレビューに独占公開した。メタは、地理的位置や膨大な種類の個人的特性まで考慮した公平性評価システム「ファセット（FACET）」を構築し、そのデータセットを自由に利用できるようにしている。続きはこちら。

AI関連のその他のニュース

チャットGPT（ChatGPT）との音声チャットが可能に。この新機能は、オープンAIによるアプリの各種アップデートの1つだ（他にも画像についての質問に答える機能などがある）。生の声のような5つの合成音声から1つを選択して、電話をかけるようにチャットボットと会話し、声で質問をしてリアルタイムで答えを聞くことができる。（MITテクノロジーレビュー）

ゲッティイメージズが、新たな生成AI（ジェネレーティブAI）には著作権で保護されたアートは含まれないことを約束。ジョージ・R・R・マーティンをはじめ、著作者が次々とAI企業に対する著作権訴訟を起こしている。ゲッティは、同社の新しいジェネレーティブAIシステムには著作権で保護されたアートは含まれておらず、万一クライアントがAI関連の訴訟を起こされた場合には訴訟費用を負担すると約束した。（MITテクノロジーレビュー）

ディズニー映画監督がAIのハンス・ジマーを使ってサウンドトラック制作を試みて失敗した。『ローグ・ワン/スター・ウォーズ・ストーリー』の監督ギャレス・エドワーズは、AIがテーマの新作映画『ザ・クリエイター/創造者（The Creator）』（10月公開予定）のサウンドトラックをAIで作曲することを思いつき、「かなり上出来」な結果を得た。ただし、最後に勝利したのは現実の生身の人間のハンス・ジマーだった。（MITテクノロジーレビュー）

AIは細胞の仕組みの解明と疾病の治療に貢献するか？ AIを活用したバーチャル細胞モデリングシステムは、疾病の解明にブレークスルーをもたらすだろうと、プリシラ・チャンとマーク・ザッカーバーグは主張している。（MITテクノロジーレビュー）

ディープマインドはAIを使って遺伝性疾患の原因を突き止める。グーグル・ディープマインド（Google DeepMind）は、ゲノム内のどのDNA変異が疾患を引き起こす可能性が高いかを予測するAIシステムを訓練したと発表した。この予測によって、希少疾患の診断が迅速化し、医薬品開発の手がかりにつながるかもしれない。（MITテクノロジーレビュー）

24時間無休でライブ配信をする中国のインフルエンサーのディープフェイク。昨年以来、中国のスタートアップ企業や大手テック企業の一団が、Eコマースのライブストリーミング用にディープフェイクのアバターを作成し続けている。数分のサンプル映像と1000ドルの費用を用意するだけで、人間のストリーマーのクローンを作成して24時間休みなく働かせることができる。（MITテクノロジーレビュー）

AIが生成した裸の子どもたちの画像がスペインのアルメンドラレホの町を揺るがす。ジェネレーティブAIが引き起こす実生活への危害のきわめて恐ろしい事例である。スペインでは、AIが生成した子どもの画像がソーシャルメディアに出回っている。ソーシャルメディアから取得した着衣の少女の写真を使って作られた画像だ。残念ながら、現時点では有効な対策はないに等しい。（BBC）

国連が考えるAIの未来の形。AIを管理する国際組織の設立の必要性については、これまで多くの議論がなされてきた。国連が選択肢に上がるのは当然であり、そのリーダーたちはこの課題に積極的に取り組もうとしている。国連の現在の準備の動きと今後の課題を考察する優れた記事である。（タイム）

アマゾンがアンソロピックに投資。発表によれば、アマゾンはAIの安全性に取り組むスタートアップ企業、アンソロピック（Anthropic）に最大40億ドルを投資する。今回の動きで、アマゾンはアンソロピックの高度なAI言語モデル「クロード2（Claude 2）」にアクセスできるようになり、競合のグーグル、メタ、マイクロソフトに追いつくのに役立ちそうだ。

人気の記事ランキング

メリッサ・ヘイッキラ [Melissa Heikkilä]米国版 AI担当上級記者: MITテクノロジーレビューの上級記者として、人工知能とそれがどのように社会を変えていくかを取材している。MITテクノロジーレビュー入社以前は『ポリティコ（POLITICO）』でAI政策や政治関連の記事を執筆していた。英エコノミスト誌での勤務、ニュースキャスターとしての経験も持つ。2020年にフォーブス誌の「30 Under 30」（欧州メディア部門）に選出された。