FBIの顔認識システムに米国成人の半数が登録、15％は間違い

朗報：米国政府が所有しているあなたの顔写真は、たぶん他人のものだ。

2016年、MIT Technology Reviewは、膨大な量の顔写真をFBIが運営していることを伝えた。検索可能な写真は4億1200万枚近くもあり、その多くは身分証明書など、犯罪とは関係のない文書から収集された。FBIは、たとえばケーブルテレビの映像に映る犯罪者を正確に特定できるシステムを構築しようとしているが、FBIのソフトウェアの精度や実際の捜査での利用状況は判然としていなかった。

最近、システムの一端が明らかになった。ガーディアン紙の記事によれば、先週の米下院監視委員会公聴会で、FBIの顔認識システムの利用状況と性能について、興味深い詳細が新たに明らかになったのだ。

まず、アメリカ人はデータベースに登録されている可能性が高い。犯罪と無関係の情報源から収集した画像がデータベースの80％を占めるため、データベースに登録済みの数百万枚の写真は、米国の成人人口の約半分をカバーするのだ。つまり、米国民がパスポートや運転免許証等の正式な身分証明書用に申請用紙に写真を添付して送信すると、データセットを増やすのに使われている可能性がある。

ただし、もっとも始末に負えないのは、FBIの顔認識の精度だ。公聴会では、ソフトウェアが15％の確率で個人を誤認していることが明らかになったのだ。一方、企業向けに販売されている最新の顔認識テクノロジーの精度は非常に高く、中国では決済の承認に使われるほどであり、中国の検索エンジン大手バイドゥによれば、99.77％の確率で顧客の正確に認識できるという。

FBIは、データベースに登録されている画像も、照合しようとする画像も、バイドゥ等の企業が入手できる画像より、かなり品質が低いせいだ、と弁明した。それでも15％のエラー率は高く、誤って捜査対象になり、プライバシーの侵害につながりかねない。

getty

また、顔認識ソフトウェアは、白人よりも黒人をより誤認する可能性が高そうだ。残念ながら、こうした問題は予測可能だった。MIT Technology Reviewは以前、顔認識システムの訓練に使われるデータセットは人種的に均等ではなく（訓練データに白人が多ければ、白人の認識率は高くなるが、黒人の認識率は比較的に低いままになる）、本質的に偏っていることを記事にした。

しかし、この問題は、さらに別の問題を引き起こす。ガーディアン紙が記事で述べているとおり、米国で、黒人は白人よりも逮捕される確率が高く、顔認識ソフトウェアで顔を照合される可能性も高い。つまり、黒人の顔を判別するために、未熟なツールを使うのは問題があり、不公平ですらある。

上記のような記事を読むと、プライバシーへの不安がかき立てられ、犯罪者を正確に特定できるシステムを構築したいFBIの構想にも疑念が生じる。だが、少なくとも、問題があることはわかった。今度はどう解決するか、だ。

（関連記事：The Guardian, “As It Searches for Suspects, the FBI May Be Looking at You,” “2017年版ブレークスルー・テクノロジー10：顔で決済,” “FBIの人種差別的な顔認識システム”）

• 19
• 1
• 1
• 0

人気の記事ランキング

1. What’s on the table at this year’s UN climate conference トランプ再選ショック、開幕したCOP29の議論の行方は？
2. Google DeepMind has a new way to look inside an AI’s “mind” AIの「頭の中」で何が起きているのか？ ディープマインドが新ツール
3. Google DeepMind has a new way to look inside an AI’s “mind” AIの「頭の中」で何が起きているのか？ ディープマインドが新ツール
4. This AI-generated Minecraft may represent the future of real-time video generation AIがリアルタイムで作り出す、驚きのマイクラ風生成動画