20世紀初頭、ヨーロッパで一世を風靡したドイツの馬がいた。「クレバー・ハンス（賢いハンス）」と呼ばれていたこの馬は、それまで人間にしかできなかった、さまざまな芸をすることができた。数字を足したり引いたりすることや、時間やカレンダーを読むこと、そしてさらには、単語や文章を綴ることまでできたのだ。答えはすべて、ひづめで床を叩く方式で出された。回答「A」なら1回、「B 」なら2回、「2+3」は5回、トントンと叩くのである。クレバー・ハンスは世界的なセンセーションを巻き起こし、動物にも人間と同じように理性を教えられる証拠であると、多くの人が信じた。
ところが実際は、クレバー・ハンスは、人々ができていると信じていたことを、何もやっていなかった。後の研究で分かったことだが、ハンスは質問者の姿勢や呼吸、表情の変化を見て、正しい答えを出すことを覚えたのである。質問者の位置が遠すぎると、ハンスは何もできなくなってしまった。ハンスの知性は、幻にすぎなかったのである。
この話は、人工知能（AI）研究者がAIアルゴリズムの能力を評価する際の教訓として使われている。システムが見かけほど賢くないこともあるから、正しく測定するように気をつけよう、ということだ。
だが、AI研究の第一人者であるケイト・クロフォード博士は、新著『アトラス・オブ・AI（Atlas of AI（未邦訳、「AIの地図帳」の意味）』の中で、この道徳観をくつがえしている。問題は、ハンスが達成したことの定義の仕方にあった、として次のように書いている。「ハンスは、異なる種族間のコミュニケーション、公共の場でのパフォーマンス、相当な忍耐力など、それだけですでに目覚ましい成果を上げていたのに、こうしたことが知能として認められなかった」。
クロフォード博士の探究はここから始まる。AIの歴史について、そしてAIが現実世界に与える影響についての探究だ。アトラス・オブ・AIの各章では、人々がAIをいかに狭く捉え、定義してきたかを明らかにすることによって、AIへの理解を広げる試みがなされている。
クロフォード博士はその試みを、読者を世界各地への旅に連れていくことで達成しようとしている。コンピューターの製造に使われるレアアースを採掘する鉱山から、成長と利益を執拗に追い求める企業によって人間が機械化されたアマゾンのフルフィルメント・センターに至る、壮大な旅である。第1章では、シリコンバレーの中心部からネバダ州のクレイトン・バレーにある小さな鉱山集落までバンで移動した話が語られている。クロフォード博士はここで、世界中のコンピューターを動かしているリチウムを得るためには仕方がないとして悪習化した環境破壊について詳しく調査している。これを読むと、シリコンバレーとクレイトン・バレーの鉱山がいかに物理的に近いか、そしてその物理的な距離にもかかわらず、富の面ではいかに大きくかけ離れているかを、感ぜずにはいられない。
こうした物理的な調査を根拠にして分析をすることで、クロフォード博士は、AIは「クラウド」で稼働する効率的なソフトウェアに過ぎないという婉曲的な枠組みに収めることを葬り去ることに成功している。AIの基盤としての地球や労働力、そしてその背後にある深い問題を抱えた歴史をクローズアップして生き生きと描くことで、今後、AIについて純粋に抽象的なかたちで語り続けることはもはや不可能であると知らしめている。
第4章では、クロフォード博士は読者をまた別の旅へと連れて行く。今回は、空間というよりも時間を超えた旅だ。AI分野が分類に執着しているという歴史を説明するために、同博士はフィラデルフィアのペン博物館を訪れ、何列にも並べられた人間の頭蓋骨を見つめる。
これらの頭蓋骨は、19世紀のアメリカの頭蓋学者サミュエル・モートンが収集したものだ。モートンは、頭蓋骨を物理的に測定することによって、世界の人種を5つの「人種」」（アフリカ系、アメリカ先住民系、白人系、マレー系、モンゴル系）に「客観的に」分けることができると考えた。クロフォード博士は、モートンの研究と、世界を固定的なカテゴリーに分類し続ける現代のAIシステムとの間に、類似性があることを指摘しているのだ。
こうした分類は客観的とはほど遠いというのが、クロフォード博士の主張だ。これらの分類は、社会秩序を押し付け、ヒエラルキーを正当化し、不平等を拡大するものだというのだ。こうした視点から見ると、客観的、あるいは中立的なテクノロジーとしてAIをとらえることはもはや不可能になる。
20年に及ぶキャリアの中で、クロフォード博士は、大規模なデータシステムや機械学習、AIが現実世界にもたらす影響について研究してきた。2017年には、メレディス・ウィテカーと共同で、これらのテクノロジーの社会的影響を研究する初の組織としてAIナウ研究所（AI Now Institute）を創立した。現在は、ロサンゼルスの南カリフォルニア大学（USC）アネンバーグ・コミュニケーション・ジャーナリズム学部教授、パリ高等師範学校（ENSパリ）の「AIと正義（AI and justice）」客員教授のほか、マイクロソフト・リサーチの上級主席研究員も務めている。
5年前は、データやAIは中立ではないという考え方は珍しく、広めるのに苦労した、とクロフォード博士は言う。今やこうした会話も進化し、AI倫理は独自の分野として花開くようになった。クロフォード博士は、自分の著書によりこの分野がさらに成熟することを期待している。
クロフォード博士が、対談インタビューの形で最新の自著について語った。
なお、以下のインタビューは、発言の趣旨を明確にし、長さを調整するため、編集されている。
◆◆◆
——この本を出版した理 …