この記事は米国版ニュースレターを一部再編集したものです。
少し前に、米国連邦議会初の「AIインサイト・フォーラム（AI Insight Forum）」についての簡単なガイドを書いた。このフォーラムが9月13日に開催され、テック業界のセレブたちが顔を揃えた密室の会議で何が話し合われたのか、いくつかの重要な情報が明らかになった。
まず、背景を説明しよう。AIインサイト・フォーラムは、上院多数党院内総務のチャック・シューマーが数カ月前に発表したもので、米国におけるAI立法のための一連の原則をまとめたシューマーの「SAFEイノベーション」イニシアチブの一環として開催された。招待者リストは、AI企業のCEOを含む大手テック企業幹部に大きく偏っていたが、少数の市民社会団体関係者やAI倫理研究者も含まれていた（詳しくは、私が以前に書いた、フォーラムおよび可能性のある議会のAI立法へのアプローチ方法に関するこの記事で読むことができる）。
この会議を取り上げたこれまでの報道では、全会一致だったと伝えられるAI規制の必要性に関する合意と、イーロン・マスクらが提起したAIが生み出す「文明リスク」に関する問題が、特に強調されている（もっと詳しく知りたければ、『テック・ポリシー・プレス（Tech Policy Press）』のこの追跡記事がかなり役に立つ）。
しかし、本当の様子を掘り下げて知るため、私は他の参加者の1人であるイニオルワ・デボラ・ラジに話を聞いた。ラジは、この初めての会議の様子や、誤りを暴く必要のあった有害な神話、そして部屋の中で感じられた意見の対立について、内情を教えてくれた。ラジはカリフォルニア大学バークレー校の研究者であり、モジラのフェローでもある。AIの説明責任、バイアス、リスク評価の専門家であり、2020年には本誌の「35歳未満のイノベーター」にも選ばれている。
なお、以下のインタビューは、発言の趣旨を明確にし、長さを調整するため、編集されている。
◆
——まず、話し合いはどのような組み立てになっていましたか？
上院議員たちが質問を用意していました。それを部屋の中の全員に投げかけ、皆がそれに答えました。シューマー上院議員と（マイク・）ラウンズ上院議員が、質問の第1ラウンドと第2ラウンドを取り仕切りました。そのため、会話の流れを形成するのに、2人が最も影響力を持っていました。
このフォーラムは、有意義な政策討議や提言のための真の機会というよりも、情報提供のための取り組みだったと私は理解しています。今後のフォーラムでは、参加者により多様な人々、特に市民社会からの参加者が含まれることを願っています。
——なぜテック界の有名人ばかりが招待されたのだと思いますか？
世間の目を惹きつけるためだったと思います。参加した上院議員は60人以上にのぼりました。上院の過半数が姿を見せたのです。シューマーのチームは、主要なCEOたちやテック界の有名人が一堂に会するのを見せ、そこに少数の市民社会参加者を混ぜて視点を少しだけ多様化することが、上院議員たちに対して説得力を持つと理解していたのでしょう。
さまざまなグループを代表するには出席者に偏りがあることについて、一部の人が気を悪くしているのは、非常に理解できます。まったく筋の通った言い分だと思います。しかし、できるだけ多くの上院議員にAIに関する議論を始めさせることや、AIの優先付けを始めさせること、それを実現するために党派を超えて目を向けさせることが目的だとすると、今回集まったような人たちを集めるのも理にかなっていると思います。
今、私が考えているのは、特定の上院議員たちがCEOたちの言ったことを拾い上げ、同じことを報道陣に話していたことについてです。シューマーは会議後のインタビューの1つで、ビル・ゲイツがAIは飢餓を解決すると言ったとか、この人はAIががんの治療法を見つけると言ったとか、そんなようなことを話していました。すべてのCEOたちが、明らかにこのテクノロジーを大げさに宣伝していたためです。それが彼らの会社の、文字通り任務だからです。
私の発言の8割は、私たちが現在生きている現実、特に、データにはあまり表れてこない、社会から疎外された人々にとっての現実を、ただ事実確認するものでした。多くの市民社会の人たちも、企業が発信している「奇跡のテクノロジー」という物語に異議を唱えようとしていました。しかしおかしなことに、何人かの上院議員は部屋を出るなりすぐに、ああ、これは奇跡のテクノロジーだなぁ、といったようなことを言っていました。それはまるで、片方の話しか聞いていなかったかのようでした。
私が今、思案しているのは、どのようにすれば議員たちに企業以外の視点を有意義な形で正しく取り入れさせることができるのか、ということです。企業以外の視点によって提起されるリスクは、立法上の意思決定に絶対に取り入れるべき非常に貴重な専門知識を反映しているということを、どうすれば理解してもらえるでしょうか？
——AIに関して巨大テック企業に共通する発言は、もちろんテクノロジーを大げさに宣伝するものですが、その一方で彼らは、AIのリスクを人類の存亡に関わるもの、あるいは非常に極端なものであると、先駆けて告げることもしてきました。そのような話は、会議の中でも展開されたのでしょうか。
そのような展開は、私が予想していたよりも目立たなかったと思います。
大げさなリスクが問題として持ち上がったのは、（テック企業の代表者たちが）ある現実から注意をそらそうとしていたためです。現在のリスクの多くの原因は、実はこのテクノロジーが超優秀ではないことであるという現実です。AIは失敗することもあるし、予期せぬ振る舞いを見せることもあります。より多くの場合、その失敗は、データで過小評価されていたり、不正確に表されていたりする人たちに影響を与えます。
AIができることの可能性について誰かが突拍子もない主張をし、それをかなり現実離れしたリスクと結びつける瞬間もいくつかありました。
（しかし、私はこのように思いました）準備が整っていないものを時期尚早に始めた単純な結果である、より差し迫ったその他の害に関しては、どうだろうか？
ガードレールが増えれば、監査や第三者評価、検証など、（企業が）望んでいるとは思えない種類の規制がより多く必要になります。その話題が出たときが、最も緊張が高まった瞬間でした。
——AIがもたらすリスクについて、あなたとイーロン・マスクがやりとりしたことが漏れ伝えられています（編注：マスクは、中国政府に対してAIはいずれ中国を追い越すことかもしれないと話したと述べ、ラジはそれに対し、テスラのオートパイロット機能など、現在の無人運転車の安全性に疑問を呈した）。そのことについて、詳しく教えてくれませんか？
イーロンだけではありませんでした。それは出てきた話の1つに過ぎません。AIによるがん治療の話をしていたCEOもいました。それを米国人が実現するようにしなければならないと言っていました。そんな話です。
しかし、まず第一に、人々に害を及ぼしていて、黒人や褐色人種の患者にはうまく機能していない医療AIテクノロジーが存在します。病院のベッドを確保するという点で、そのような患者に偏った低い優先順位を付けています。偏った誤診をし、臨床検査の結果を誤って解釈しています。
私は、AIがいつの日かがんの治療につながることを望んでもいますが、私たちは現在あるシステムの限界を理解する必要があります。
——フォーラムで本当に実現したかったことは何でしたか？ また、そのチャンスはあったと思いますか？
私たちは全員、言うべきことを発言する機会が十分にあったと思います。全員が同じように話を聞いてもらえたか、または同じように理解してもらえたかどうかということに関しては、まだ考えを整理しているところです。
私が参加している主な役割は、AIが、特に社会から疎外された人たちに対してうまく機能しているということに関し、企業から出ている多くの神話を否定することでした。そして、バイアスや公平性の解決にまつわる神話の一部を否定することでもありました。
バイアスや説明可能性に関する懸念は、技術的にも社会的にも本当に難しい課題です。私は、この課題を過小評価してほしくない、というような気持ちで参加しました。
それで、理解してもらえたでしょうか？よくわかりません。議員たちは、AIががんを治すという話をするのを、ずいぶん気に入っていましたから。
マーケティング用語やSF的な物語に夢中になり、現場で起きていることを完全に無視するのは、とても簡単なことです。私は、現実をはっきりと伝え、明示することに立ち戻り、これまで以上に力を注いでいます。なぜなら、実際に起きていることと、議員たちが企業から聞いている話との間には、大きな知識の隔たりがあるように思えるからです。
◆
テック政策関連の気になるニュース
- 携帯電話を持つ10代の女の子は、今、どんな感じなのか。ニューヨーク・タイムズ紙のジェシカ・ベネット記者が書いたこの記事をとても気に入った。ベネット記者は1年かけて13歳の女の子3人と連絡を取り続け、彼女たちのデジタル生活の一部始終を学んだ。とてもおすすめだ。
- アトランティック誌でチャーリー・ウォーゼルが書いたプライバシーに関する社会的な省察が、数日前から頭を離れない。この記事は、ネット上で自分のプライバシーを守るためにできることに関して私たちが（間違いなく私が）抱く、圧倒的な疑問に迫っている。
- ニューヨークで国連総会が開催された。話し合われた大きな議題の1つは、もちろんAIだった。タイム誌のウィル・ヘンシャルが、AI規制に関して国連に期待できるかもしれないことを深堀りしている。