AI researchers say scientific publishers help perpetuate racist algorithms

AI研究者らが学術出版社を批判、人種差別を助長

顔認識で犯罪者を予測するシステムを紹介する論文は、AI研究者らの抗議へと発展した。 by Karen Hao2020.07.01

学術出版社のシュプリンガー・ネイチャー（Springer Nature）が「計算科学・計算知能論文誌（Transactions on Computational Science＆Computational Intelligence）」として出版する予定だった学会論文をめぐって、AI研究者が連帯して公開書簡を発表して異議を唱えている。元の報道発表によると、『画像処理を使って犯罪性を予測するためのディープ・ニューラルネットワーク・モデル』と題するこの論文は、顔写真を使って犯罪者かどうかを予測できるとされる顔認識システムを紹介している。開発者はハリスバーグ大学の研究者で、間もなく開催される学会で発表される予定だった。

公開書簡では、第一線で活躍する黒人人工知能（AI）研究者の研究を引用しながら、犯罪予測テクノロジーを人種差別的だと主張。「シュプリンガー・ネイチャーはこの研究の出版の申し出を撤回する」「犯罪性を予測するために機械学習などの統計学を用いることを非難し、シュプリンガー・ネイチャーがそのような研究を奨励する役割を担ってきたことを認める声明文を出す」「すべての学術出版社が今後、同様の論文を出版しないことを約束する」という3点を求めている。6月22日にシュプリンガー・ネイチャーに送られた公開書簡はもともと、マサチューセッツ工科大学（MIT）、レンセラー工科大学、マギル大学、AIナウ研究所（AI Now Institute）の5人の研究者によって書かれたもので、数日のうちにAI倫理と学術系のコミュニティから600人以上の署名を得た。中には、AIナウの共同創設者であるメレディス・ウィテカー、MITメディアラボ　シビック・メディア・センターの元所長であるイーサン・ザッカーマンなどの著名人の署名もあった。

公開書簡では特定の論文に光が当てられているが、執筆者の目的は、学術出版が研究者に非倫理的な規範を永続させるよう奨励しているという体系的な問題を示すことにある。公開書簡の執筆者の1人であるMITのチェルシー・バラバス研究員は、「私たちが人種差別的な研究を何度も目にしているのは、出版社が出版するからです」と述べた。同じく公開状の執筆者の1人であるAIナウの博士研究員であるテオドア・ドライヤー研究員は、「シュプリンガー・ネイチャーに公開状を送った本当の意義は、こういったことが何ら珍しいことではないから」と述べ、「長い間続いてきた問題と批判を象徴するものです」と付け加えた。

シュプリンガー・ネイチャーは公開書簡を受け、論文の出版中止を発表した。「言及されている論文は次の学会に提出され、シュプリンガー・ネイチャーはその講演要旨集を出版する予定でした」と説明。「厳格な査読プロセスを経て、論文は却下されました」としている。ハリスバーグ大学も報道発表を取り下げ、「懸念されている点に対応するため、論文を更新する」としている。また、公開書簡の署名者は第2、第3の要求が満たされるよう引き続き迫るつもりだという。MITテクノロジーレビューはシュプリンガー・ネイチャーにコメントを求めたが回答は得られなかった。また、ハリスバーグ大学と論文の共著者にもコメントと元の論文のコピーを求めたが、回答は得られていない。

ジョージ・フロイドの死によって人種間平等を求める世界的な動きが起きる中、AI分野やテック業界は一般に、構造的な人種差別の強化の中で演じてきた役割の評価と向き合ってきた。例えば6月8日からの1週間で、IBM、マイクロソフト、アマゾンは顔認識関連製品の開発・販売を終了、または部分的に一時停止すると発表している。顔認識テクノロジーと過剰な警察の取り締まりの繋がりを強調する研究者や活動家の2年におよぶ取り組みが実を結んだ格好だ。今回発表された公開書簡は、コミュニティの規範をより優れたレベルの倫理的責任に変換するとの動きが強まっている中での最新の展開だと言える。

マギル大学メディア・テクノロジー民主主義センターのソニア・ソロムン研究責任者は、「私たちはこの成長する動きに貢献したかったのです」と述べる。「窓の外に目を向ければ、米国や世界で今起こっていることがいかに危険なことかが分かります」。

人気の記事ランキング

カーレン・ハオ [Karen Hao]米国版 AI担当記者: MITテクノロジーレビューの人工知能（AI）担当記者。特に、AIの倫理と社会的影響、社会貢献活動への応用といった領域についてカバーしています。AIに関する最新のニュースと研究内容を厳選して紹介する米国版ニュースレター「アルゴリズム（Algorithm）」の執筆も担当。グーグルX（Google X）からスピンアウトしたスタートアップ企業でのアプリケーション・エンジニア、クオーツ（Quartz）での記者／データ・サイエンティストの経験を経て、MITテクノロジーレビューに入社しました。