ティムニット・ゲブルは、1編の科学論文で自分がこれほどまでに苦しむことになるとは思ってもいなかった。
2020年、ゲブルはグーグルの人工知能（AI）倫理チームの共同リーダーとして、AIの今後を危惧し、ワシントン大学のエミリー・ベンダー言語学教授と共同で、その方向性を研究する決心をした。ゲブルは、最近のAI研究における最も衝撃的なブレークスルーのひとつである大規模な言語モデルがもたらすリスクを明らかにしたいと考えていた。大規模言語モデルは、膨大な量の文章によって訓練されたアルゴリズムだ。適切な条件のもとでは、説得力があるように思える文章を作れる。
数年前から、テック企業は言語モデルの大規模化をはかり、消費者向け製品に統合しようと競ってきた。大規模言語モデルを開発したグーグルは、このモデルを用いて検索結果の妥当性を高めている。オープンAI（OpenAI）は、2020年6月にGPT-3と呼ばれる最大の大規模言語モデルを発表し、その数カ月後にマイクロソフトにライセンスを独占供与した。
ゲブルは、技術進歩の速さを懸念した。ベンダー教授や他の5人と共に執筆した論文には、起こり得る危険な状況が詳細に記されていた。大規模言語モデルは、環境的にも経済的にも莫大なコストがかかること（いずれのモデルも膨大な計算能力を必要とする）や、しばしばインターネット上の有害で乱暴な言葉で訓練されること、言語AI研究を支配し有望な代替手段を排除していること、などだ。
他の既存AI技術と同様、大規模言語モデルは実際に言語を理解しているわけではない。だが、言語を操作してユーザーのためにテキストベースの情報を検索したり、自然な会話を生成できたりするため、テック企業が製品やサービスに組み込んで大きな利益をあげられる。
2020年11月、ゲブルはこの論文を学会に投稿した。その直後、グーグルの幹部はゲブルに論文の撤回を求め、撤回を拒否したゲブルは解雇された。その2カ月後には、グーグルAI倫理チームの共同リーダーで、論文の共著者でもあるマーガレット・ミッチェルも解雇された。
グーグルAI倫理チームの解体は、最近のAI業界における最大級の論争の火種となった。グーグル擁護派は、グーグルには自社の研究者を管理する権利があると主張した。だが、多くの人々は、AI分野が巨大テック企業に支配されているという懸念を強めた。現在、巨大テック企業はAI研究者の主な雇用主であり出資者だ。皮肉なことにAIの社会的影響を評価する研究者の多くも巨大テック企業の影響下にある。
世界で最も収益力の高い有力企業の中でも、グーグルやフェイスブック、アマゾン、マイクロソフト、アップルは、AIをビジネスの中核に据えている。この10年の技術進歩、特に深層学習というAI技術の進歩により、ユーザー行動の監視や、ニュースや情報、製品の推奨、そして何よりもユーザーをターゲットにした広告宣伝が可能になった。2020年、グーグルの広告システムは1400億ドル以上を稼ぎ出し、フェイスブックの広告収入は840億ドルだった。
両社は巨額の富をもたらしたテクノロジーに多額の資金を投じてきた。グーグルの親会社のアルファベットは、2014年にロンドンのAI研究所「ディープマインド」を6億ドルで買収し、研究開発費として年間数億ドルを費やしている。マイクロソフトは2019年にオープンAIと10億ドルの契約を結び、言語モデルGPT-3の独占ライセンスを取得した。
同時に、巨大テック企業は大学のAI研究にも多額の出資をし、大学の科学的な優先性に大きな影響を与えている。この数年間、巨大テック企業にフルタイムで務めたり、二足のわらじを履いたりする野心的な科学者が増えている。AIの権力力学の課題に挑むラディカル・AI・ネットワーク（Radical AI Network）の調査によれば、AI分野における上位2つの学術会議で最も引用された論文のうち、少なくとも1人の著者が巨大テック企業に所属しているものの割合は、10年前はわずか11％だったのに対し、2018年から2019年にかけては58％だったという。
問題は、AIに関する企業の検討課題が、商業的可能性のある技術に焦点が絞られ、経済的不平等や気候変動などの課題解決に役立つ研究をほとんど無視していることだ。それどころか、経済的不平等や気候変動の課題を悪化させてすらいる。作業の自動化を進めることで雇用が失われ、データ・クリーニングやコンテンツモデレーションといった面倒な仕事が増えている。これまで以上に大きなモデルを構築しようとするため、AIのエネルギー消費量も爆発的に増加している。ほかにも、深層学習では顔認識システムのようなモデルを訓練するために、同意なしにデータが常に収集される文化を生み出した。さらに、大規模言語モデルは誤った情報を一掃できず、推薦アルゴリズムは政治的分極化を悪化させた。
こういった状況を変えようとする立場にあるのが、ゲブルと同じような考えを持つ学者たちだ。ゲブルたちはこの5年間にわたり、AI分野の優先的課題を、AIの技術開発人員を拡大して単にテック企業の収益力を向上させることから変えようとしてきた。ゲブルたちの目標は、既存のシステムがもたらす弊害を軽減するだけでなく、より公平で民主的な新しいAIを創造することだ。
「こんにちは、ティムニット・ゲブルです」
2015年12月、ゲブルは公開書簡を書こうとしていた。スタンフォード大学で博士号を取得中に、ゲブルはAI研究における年に一度の最大の国際会議である神経情報処理システム（Neural Information Processing Systems：NeurIPS）会議に参加した。会議に出席していた3700人以上の研究者の中で、ゲブルが出会った黒人の研究者はたった5人だった。
かつてはニッチな学術テーマを扱う小さな会議だったNeurIPSは、あっという間に、年に一度のAI界最大の求職活動の祭典になりつつあった。世界の裕福な企業が、デモを披露したり、豪華なパーティーを開いたり、シリコンバレーで最も希少とされる優秀なAI研究者に高額な小切手を切ったりするためにやって来た。
その年は、イーロン・マスクが、非営利ベンチャー企業であるオープンAIを披露しに来ていた。イーロン・マスクとYコンビネーター（Y Combinator）のサム・アルトマン社長、ペイパルのピーター・シール共同創業者は、10億ドルを投じて、いつか起こると3人が信じている問題を解決しようとしていた。その問題とは、超知性がいつか世界を征服するかもしれないというものだ。3人の解決策は、より優れた超知性の構築であり、イーロン・マスクがオープンAIで任命した14人のアドバイザーや技術チームメンバーのうち、11人が白人男性だった。
マスクが高く評価される中、ゲブルは屈辱的なハラスメントを受けていた。会議後のパーティーでは、グーグル・リサーチのTシャツを着た酔っ払いたちがゲブルを取り囲み、嫌がらせのハグや頬へのキス、写真撮影などをした。
ゲブルは、自分が目の当たりにした光景やAIセレブたちに対するカルト的賛美、そして何よりも著しい均質性を痛烈に批判する文章を書いた。こういった男尊女卑の文化により、優秀な女性たちはAI業界から追い出されてしまったとゲブルは言う。また、AI自体やAIが世界に与える影響に関してコミュニティ全 …
- 人気の記事ランキング
-
- What’s on the table at this year’s UN climate conference トランプ再選ショック、開幕したCOP29の議論の行方は？
- Why AI could eat quantum computing’s lunch AIの急速な進歩は 量子コンピューターを 不要にするか
- Google DeepMind has a new way to look inside an AI’s “mind” AIの「頭の中」で何が起きているのか？ ディープマインドが新ツール
- Google DeepMind has a new way to look inside an AI’s “mind” AIの「頭の中」で何が起きているのか？ ディープマインドが新ツール
