AIで刑事司法を効率化、「再犯予測システム」は何が問題か？

刑務所の収監者数が世界一多い米国では、裁判を効率的かつ安全にするため、再犯率を人工知能（AI）で予測するリスク評価ツールを使用している。だが、過去の犯罪データを用いて訓練されたツールによる評価は、さらなるバイアスを生み出す悪循環につながる可能性がある。 by Karen Hao2019.01.23

人々が機械学習アルゴリズムにもっとも頻繁に触れるのが、フェイスブックのニュースフィードやグーグルの検索ランキングを通じてであるなら、人工知能（AI）は個人にさほど大きな影響を与えるとは思えないかもしれない。しかし、1月11～13日に開催されたデータ・フォー・ブラック・ライブズ（Data for Black Lives）の年次会議では、テクノロジスト、法律専門家、コミュニティ活動家らが米国の刑事司法制度の観点からAIについて議論した。アルゴリズムが個人の人生を決定し得る分野だ。

米国は世界でももっとも多くの受刑者を刑務所に収監している。2016年末時点で、約220万人の成人が刑務所や拘置所に入れられ、それとは別に450万人がその他の矯正施設に収容されている。別の言い方をすれば、米国人の成人の38人に1人が何らかの形で矯正施設の監督下にあるわけだ。悪夢のようなこの状況は、与野党の政治家が一致団結する数少ない問題の1つだ。

犯罪を増やすリスクを冒すことなく囚人の数を減らす絶大な必要に迫られ、米国中の法廷は、できるだけ効率的かつ安全に被告人の法的処理をする自動化ツールに頼ってきた。ここからがAIの話だ。

警察署は、署員をどこに配置するかについて戦略を練るために予測アルゴリズムを使用する。法執行機関は、容疑者の特定に役立てるために顔認識システムを使う。こうしたことが、実際に安全性を向上させるのか、それとも単に既存の不公正を永続させるだけなのかは、極めて当然ながら綿密に検討されてきた。たとえば、研究者や人権団体は、顔認識システムは、特に肌の浅黒い人には、驚くほど誤作動をする場合があり、国会議員でさえ有罪判決を受けた犯罪者と間違われることがあると繰り返し説明してきた。 …

こちらは会員限定の記事です。 メールアドレスの登録で続きを読めます。

有料会員にはメリットがいっぱい！

毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
重要テーマが押さえられる。
各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。

【夏割】実施中！ひと月あたり1,000円で読み放題

人気の記事ランキング