KADOKAWA Technology Review
×
いよいよ今週金曜!【3/14東京開催】若手研究者のキャリアを語り合う無料イベント 参加者募集中
アップル・カード問題、本質は「性別を問わない」性差別
Selman Design
人工知能(AI) Insider Online限定
There’s an easy way to make lending fairer for women. Trouble is, it’s illegal.

アップル・カード問題、本質は「性別を問わない」性差別

アップル・カードの利用限度額問題に端を発して、人工知能(AI)による与信の問題点が明らかになった。与信審査に性別を持ち込むのは米国では違法だが、最新研究によると男女別のモデルを作成することでバイアスを是正できるという。 by Karen Hao2019.12.10

ニューヨーク州金融サービス局は11月中旬、性別による与信差別の疑いで、ゴールドマン・サックスを対象とする調査を開始した。起業家のデイヴィッド・ハイネマイヤー・ハンソンは、所得税申告を妻と合算でしており、また信用スコアは妻のほうが高かったにもかかわらず、アップル・カードが夫デイヴィッドに設定した利用限度額は妻の20倍だったとツイートした。アップル・カードはゴールドマン・サックスがサービスを運用している。

このツイートを受け、ゴールドマン・サックスは限度額を決定する際に性別は考慮していないとの声明を投稿した。ゴールドマン・サックスは自己弁護のつもりで声明を出したのだろう。そもそもその人が女性かどうか分からない仕組みになっているのに、女性差別などできるはずがないでしょう? という理屈だ。だが実際には、性別を考慮に入れていないことこそが問題なのだ。アルゴリズムの公平性に関するこれまでの研究では、性別を考慮することで性的バイアスを緩和できるとの結果が出ている。ただ皮肉なことに、与信審査に性別を持ち込むのは米国では違法とされているのだ。

国連基金と世界銀行の資金提供によって進行中の研究の中間報告は、 性差を問わない信用貸付の公平性に再び疑問を投げかけている。調査では、完全に独立した男女別の信用度モデルを作成することで、より多くの女性が信用を得られることが分かった。

では、法律を改正するべきなのか?

「性別を問わない」という性差別

性差別が嫌なら、方程式から性別の項を抜いてしまえばいい。これが、1974年に施行された信用機会均等法(ECOA:Equal Credit Opportunity Act)の前提だ。施行当時は、女性が与信拒否に合うのはよくあることだったが、信用機会均等法の施行によって、審査における性別に基づく差別や、性別を判断条件することが違法とされた(同法は1976年に改正され、人種や出身国など、連邦政府 …

こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
人気の記事ランキング
  1. AI reasoning models can cheat to win chess games 最新AIモデル、勝つためなら手段選ばず チェス対局で明らかに
  2. OpenAI just released GPT-4.5 and says it is its biggest and best chat model yet 限界説に挑むオープンAI、最後の非推論モデル「GPT-4.5」 
▼Promotion
U35イノベーターと考える 研究者のキャリア戦略 vol.2
MITTRが選んだ 世界を変える10大技術 2025年版

本当に長期的に重要となるものは何か?これは、毎年このリストを作成する際に私たちが取り組む問いである。未来を完全に見通すことはできないが、これらの技術が今後何十年にもわたって世界に大きな影響を与えると私たちは予測している。

特集ページへ
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を発信する。

特集ページへ
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る