KADOKAWA Technology Review
×
AIのバイアス問題は
「倫理」で解決できるのか
Varoon Mathur/AI Now Institute
カバーストーリー 無料会員限定
Establishing an AI code of ethics will be harder than people think

AIのバイアス問題は
「倫理」で解決できるのか

人工知能(AI)が日常生活のさまざまな場面で使われるようになり、AIが導き出す差別的な結果に対する懸念が高まっている。ニューヨークで開催されたシンポジウムでは、倫理だけでは問題は解決できないとして、「基本的人権」の観点から検証してはどうかとの提案がなされた。 by Karen Hao2018.10.25

ニューヨーク市警察は過去6年の間に、犯罪組織に関与していると考えられる少なくとも1万7500人の個人名と個人情報を含む大規模なデータベースを作成した。そうした取り組みに対して人権活動家は、データが不正確であり、人種差別的であるとして批判している。

「顔認識テクノロジーが、理論上、あなたが犯罪組織に入っていると仮定しているデータベースが結び付くとどうなるか、想像してみてください」。全米黒人地位向上協会(NAACP)弁護支援・教育基金のシェリリン・イフィル会長兼代表執行役員法律顧問は、10月16日にニューヨークで開催されたニューヨーク大学AIナウ研究所(AI Now Institute)主催の「AIナウ2018 シンポジウム」でこう語った。

弁護士や活動家、研究者らは、人工知能(AI)システムの設計と実装における倫理と説明責任の必要性を強調する。だがこの際に、ややこしい問題がいくつか置いてけぼりにされることも少なくない。つまり、誰が倫理を定義し、与えるべきなのか、ということだ。

顔認識は不完全なだけではなく、黒人や女性に対してはそれほど精度が高くないことが主要ソフトウェアを対象とした研究によって明らかにされている。イフィル会長の推定では、ニューヨーク市警察のデータベースに登録された人の95%から99%がアフリカ系、ラテン系、アジア系であるという。「犯罪者という焼き印を押された(中略) 人たちという階級を生み出している、と言っているのです」(イフィル会長)。

その一方で、米国や英国、中国の警察 …

こちらは会員限定の記事です。
メールアドレスの登録で続きを読めます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
【春割】実施中!年間購読料20%オフ!
人気の記事ランキング
  1. Why handing over total control to AI agents would be a huge mistake 「AIがやりました」 便利すぎるエージェント丸投げが危うい理由
  2. OpenAI has released its first research into how using ChatGPT affects people’s emotional wellbeing チャットGPTとの対話で孤独は深まる? オープンAIとMITが研究
  3. An ancient man’s remains were hacked apart and kept in a garage 切り刻まれた古代人、破壊的発掘から保存重視へと変わる考古学
MITTRが選んだ 世界を変える10大技術 2025年版

本当に長期的に重要となるものは何か?これは、毎年このリストを作成する際に私たちが取り組む問いである。未来を完全に見通すことはできないが、これらの技術が今後何十年にもわたって世界に大きな影響を与えると私たちは予測している。

特集ページへ
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を発信する。

特集ページへ
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る