人工知能（AI）への期待がいま、過熱している。ニューヨーク大学のメレディス・ブルサード准教授は、その期待に冷静なメスを入れられる、数少ない人物の1人だ。ブルサード准教授は、データ科学者であり、長年にわたってアルゴリズムのバイアス（偏向）分野をリードする研究者の1人であり続けてきた。
ブルサード准教授は、本業では大量の数式と向き合っている。しかし、直近の数年間は、数学では解決できない問題について考えてきた。そのブルサード准教授の考察が、このたびAIの未来に関する本にまとめられた。それが、『More than a Glitch：Confronting Race, Gender, and Ability Bias in Tech（軽微な誤作動では片付けられないもの：テクノロジーにおける人種、ジェンダー、および障がいの有無に基づくバイアスに立ち向かう）』（未邦訳）である。この本の中で、ブルサード准教授は、私たちは一貫して、社会の問題に対して不適切かつ損害を生み出すような形でAIを使いすぎてきたと論じている。同准教授の核となる主張は、人種、ジェンダー、および障がいの有無について考慮せずにテクノロジーのツールを用いて社会の問題に対処すると、著しい危害を生む可能性があるというものだ。
ブルサード准教授は最近、乳がんから回復したばかりだ。そして、自身の電子医療記録に細かい字で記された事項を読んでみると、AIが自身の診断に使用されていたことがわかった。AIによる診断は、ますます一般化しているのだ。この事実を知ったブルサード准教授は、AIががんをどれほど正しく診断できるかをさらに明らかにするために、自身で実験をしてみることにした。
MITテクノロジーレビューは、その実験の結果や、警察によるテクノロジーの使用をめぐる問題、「AIの公平性」の限界、AIがもたらすこうした課題のいくつかについて、ブルサード准教授が考える解決策について話を聞いた。なお、以下のインタビューは、発言の主旨を明確にし、長さを調整するため、編集されている。
◆
——ご自身のがんの診断にAIが使われていたことについて、著書の中で紹介されている体験談に、大きな衝撃を受けました。読者の方々向けに、どのような体験をなさったのか、そしてその体験から何を学ぶことができたのか、お話しいただけますか。
パンデミックが始まった頃、私は乳がんと診断されました。世界がロックダウンに入ったという理由だけではなく、大掛かりな手術を受けたという理由で、私は外出できなくなりました。ある日、私の診断資料を見ていました。すると、スキャン結果の1つに、「このスキャンはAIが読影しました」と書いてあることに気づきました。私は不思議に思いました。なぜAIが私の乳房X線画像を読影したのか。AIが読影するなどとは誰からも聞かされていませんでした。電子医療記録の誰も読まなさそうなところにひっそりと書いてあっただけなのです。AIを用いてがんを検出するという分野が現在どこまで進んでいるのか、とても興味を持ちました。そこで、自分でも同じ診断結果を出せるか、実験を考えました。自分自身の乳房X線画像を、オープンソースのAIに分析させて、がんが検出されるかどうかを確認してみました。 そうしてわかったのですが、私はAIががんの診断の場面でどのように機能するのかについて、たくさんの誤解をしていました。こうした誤解について、本の中で次のように考察しています。
「ブルサードのコードが機能する状態になると、AIは最終的に、ブルサード自身の乳房X線画像にはがんの兆候があるとの予測結果をはじき出した。しかし、ブルサードを担当した外科医は、ブルサードの診断においてAIを用いる必要は全くなかったと言う。なぜなら、人間の医師がすでにブルサードの画像を読影しており、明確かつ精確にがんと診断していたからだ」
がん患者になって気づいたことがいくつかあります。そのうちの1つは、私が診断されてから回復するまで私を支えてくださった医師、看護師、そして医療従事者の方々は大変素晴らしく、決して欠かせない存在であるということです。乳房X線画像の検診に行くと、「これはおそらくがんです」という小さな赤い四角形が表示されるというような、すべてコンピューター任せのある種、無機質な未来を、私は望みません。死ぬかもしれないような病気をそのように扱われる未来など、実際のところ誰も望んでいないはずです。でも、自分の乳房X線画像を持っているAI研究者は多くないのです。
——AIのバイアスを十分に「修正」できれば、AIは現在よりはるかに広範に使用されるようになる可能性があると耳にすることがあります。しかし、この考えは問題だと書かれていますね。なぜですか。
この考え方には、いくつかの大きな問題があると思い …