人工知能（AI）業界において多様性がいかにひどく欠如しているかは、数字が物語っている。主要なAI会議で論文著者に占める女性の割合はわずか18％、AIの教授職では20％、フェイスブックとグーグルの研究職ではそれぞれ15％、10％だ。人種の多様性はさらにひどい。黒人の労働者は、グーグルの全労働者のうちのわずか2.5％で、フェイスブックとマイクロソフトでは4％だ。トランスジェンダーや他のジェンダーマイノリティのデータは手に入らないが、多様性が欠如しているという点では似たり寄ったりだろう。

このことは、AI産業の影響が、雇用や住宅供給から刑事裁判や軍に至るまでのすべてに影響するほど劇的に増大した今日、非常に厄介な問題となっている。ここに至るまで、テクノロジーは、その作成者のバイアスを驚くほど効果的に自動化してきた。女性の履歴書を低く評価することや、雇用と住宅供給での差別を永続化すること、人種差別主義的な取り締まりや刑事裁判の有罪判決を維持することなどだ。

非営利団体のAIナウ研究所が4月に出した新しい報告書によると、問題解決のために異なる手法を用いない限り、こういった傾向は悪化する一方だという。

「テック業界における多様性欠如の問題は、急を要する新たな変曲点に到達しました」とAIナウの共同創設者であるメレディス・ウィテカーは語った。「何百万人もの人々が、これらのツールの影響を感じており、ツールに作り込まれたあらゆるAIのバイアスに影響されています」。

AIナウのチームは、多様性欠如に対応する取り組みが失敗に終わった2つの主要な理由を指摘する。1つは、「テック業界における女性」の増加に重点を置き、人種、ジェンダー、その他の分野での多様性の改善を軽んじたこと。2つ目は、「パイプラインの修正」、つまり、学校から業界への多様性のある志願者数を増加させるというアイデアに過度に集中したことだ。その結果、嫌がらせや不公平な給与、不均衡な権限など、女性とマイノリティがAI分野に留まるのを妨げているその他の制度上の不都合を軽視することになっている。

AIナウの研究者は、より包括的な方法で職場の多様性を改善するためのいくつか提言している。給与と機会の差を埋めるための手段、各部署に渡るリーダー職での少数グループの人を増やす対策、少数グループの人々を雇用し、職に留め続けることに対する経営層のインセンティブを変更する方法などだ。

しかし、この問題は、雇用や給与の実践よりも根が深い。そう語るのは、データ＆ソサエティ研究所で人種差別とテクノロジーの関わりを研究しているジェシー・ダニエルズ特別研究員だ（ダニエルズ特別研究員は、今回のAIナウのレポートには関わっていない）。テック業界は基本的に、テクノロジーは社会とは独立して存在するという理念の上に構築された。

「90年代初頭、インターネットが、人種やジェンダー、それに障害のようなものから私たちを解き放つだろうと考えられていました。人々が『サイバー空間』と呼んでいるところへ行けば、身体性やアイデンティティについて、もはや考えなくてすむというアイデアです」。

そのアイデアは、今日までこの業界とともにあり続けてきた。そして、従業員の多様性を増加させることに対して繰り返される失敗と、AIのバイアスが原因で繰り返されるスキャンダルの根源になっている。テック企業は、自分たちを取り巻く性差別、人種差別、社会状況とは独立して自分たちは存在しているという「幻想の信念」に基づいて構築され、テック製品もまた、その信念に基づいて設計されている。

「これはバグではなくて、仕様なのです」とダニエルズ特別研究員はいう。

• 58
• 28
• 3
• 0

人気の記事ランキング

1. Why handing over total control to AI agents would be a huge mistake 「AIがやりました」 便利すぎるエージェント丸投げが危うい理由
2. OpenAI has released its first research into how using ChatGPT affects people’s emotional wellbeing チャットGPTとの対話で孤独は深まる？ オープンAIとMITが研究
3. An ancient man’s remains were hacked apart and kept in a garage 切り刻まれた古代人、破壊的発掘から保存重視へと変わる考古学
4. How to have a child in the digital age 「あなたはもうママですね」 ネット・デジタルが約束する 「完璧な出産」の幻想