ニューズラインエマージング・テクノロジーの最新情報をお届け。

8月に米国で始まったアップルの新しいクレジットカードの与信限度額を決めるアルゴリズムが、女性よりも男性に高い限度額を与えているのではないか？ との疑義が持たれ、当局による調査の対象となっている。

11月7日、Web起業家のデイヴィッド・ハイネマイヤー・ハンソンは、自身のアップル・カードの与信限度額が妻の20倍だったとツイートし、いまや広く拡散している。夫婦は合算で所得税申告をしたにもかかわらず与信限度額に大きな差が生じ、また調査によると妻のほうが信用スコアは高かった。アップルの共同創業者、スティーヴ・ウォズニアックは、このツイートに返信し、自身も夫婦で別々の資産や銀行口座を持っていないにもかかわらず、妻の与信限度額の10倍が与えられたと述べた。

現在、米ニューヨーク州金融サービス局（DFS）は、カードを運用しているゴールドマン・サックス（Goldman Sachs）の調査を開始している。リンダ・レースウェル局長は、「与信限度額の決定に使用されたアルゴリズムが、性別に基づく差別を禁止する州法に違反しているかどうか」を監査機関が調べる方針をブログで述べた。すでに規制当局は、アルゴリズムにより白人の患者よりも黒人の患者のほうが包括ケア（統合的な治療や健康管理）を受ける率が低いという研究者の発表に関する調査を最近開始している。

ゴールドマン・サックスは週末、ツイッターに声明文を投稿し、信用度を決定する際に性別を考慮していないと述べた。だが、カードの与信限度額の説明のつかない格差は、アルゴリズムのバイアスがいかに意図せず生まれるかという事例の1つだ。信用度の査定に使われるこの種のアルゴリズムは、長年の履歴データで訓練され、バイアスはその訓練過程でさまざまな多くの方法で滑り込んでしまうのだ。