KADOKAWA Technology Review
×
【冬割】 年間購読料20%オフキャンペーン実施中!
検索エンジンの差別、
何が問題なのか?
NYU Book Press
Meet the woman who searches out search engines’ bias against women and minorities

検索エンジンの差別、
何が問題なのか?

検索エンジンの仕事ぶりは差別のない公平なものからは程遠い。そう指摘するカリフォルニア大学ロサンゼルス校(UCLA)のサフィア・ウモジャ・ノーブル教授に問題点を聞いた。 by Jackie Snow2018.03.15

インターネットは差別や不公平のない土俵のように思われるが、そうではない。サフィア・ウモジャ・ノーブルがその事実に直面したのは、ある日検索エンジンで姪っ子たちが興味を持ちそうな話題を探していた時だった。「black girls」(黒人の女の子たち)という言葉を入力したところ、ポルノ写真で埋め尽くされたページが現れたのだ。

ノーブルはぞっとしたが、驚いたわけではなかった。カリフォルニア大学ロサンゼルス校(UCLA)の教授(コミュニケーション学)を務めるノーブルは、長年にわたって、Webの価値観はその構築者の価値観、つまり概して白人の西洋人男性のそれを反映し、少数派や女性たちの価値観を反映していないと主張している。ノーブル教授の最新著書、『Algorithms of Oppression(抑圧のアルゴリズム)』には、ノーブル教授が運命的なグーグル検索をした後に開始した調査の詳細が書かれており、我々がインターネットを通してどのように情報を入手かを決定する隠れた構造が探究されている。

2月に発売されたこの本によると、検索エンジンアルゴリズムは、グーグルが言うほど中立的なものではない。アルゴリズムは、ある検索結果を他よりも優先させたり、一見中立的なコードでさえ、社会のバイアスを反映していることがある。さらに、アルゴリズムがどのように機能するのか、より広範なコンテキストは何なのか、といったことをまったく知らなくても、検索は「黒人の女の子たち」といったあるトピックに関する議論の行方を不当に決定してしまうことがあるのだ。

ノーブル教授はMITテクノロジーレビューのインタビューに応じ、現行のシステムに根ざす問題点、グーグルによる改善策、そして人工知能(AI)がいかに状況を悪化させることになるか、について語った。

——検索エンジンの仕組みについて人々が誤解していることは何でしょう?

一番近いスターバックス、のような具体的な言葉、つまり意味の限られた簡単に理解できるようなものを検索する場合はうまくいくのです。ところが、アイデンティティとか知識を取り巻くもっと複雑な概念になってくると、検索エンジンには問題が出てきます。世の中の人々が、検索エンジンを使えば、真実だと考えられる情報、詳しく調べあげられた情報、信用できる情報といったものを手に入れられると頭から依存さえしなければ、大きな問題にはならないのです。検索エンジンとは何なのかについて人々が抱いている最大の誤解はここにあると考えています。

——バイアスの問題に対処するため、グーグルは通常ある種の検索結果を抑制していますが、もっと良い方法はあるでしょうか?

世界中の知識を整理するなどといったとてつもないプロジェクトから撤退するか、あるいは見直しを図って、こう宣言するのです。「これは不完全なテクノロジーです。意図的に操作することも可能です。どのように操作されているかご覧にいれましょう。我々は自社製品のそのような部分をより明らかに示し、みなさんに検索結果は極めて主観的な性質のものであることを承知していただきたいのです」。それによって、グーグルあるいは多くの企業は、信頼の置けるもの、頼りになるものを提供しているといえるようになります。そしてここからが極めて難しくなるわけですが。

——機械学習は、あなたが著書に書かれたような人種差別や性差別を、どのように恒久化させてしまうことになるでしょうか?

私はAI、いわゆる自動意思決定システムが今世紀における人権問題になると主張してきました。心底そう確信しています。機械学習のアルゴリズムやプロジェクトは、もともとバイアスのある不完全で誤ったデータを使っており、人間は機械にそうした情報に基づいた意思決定の方法を教えているのですから。そのことでさまざまな極端かつ危険な検索結果をもたらすことになるはずです。

とにかくAI はどんどん介入するのが難しくなっていくでしょう。というのは、そのAIやシステムの構築のためにどんなデータが使われたかが、より不明確になっていくからです。たとえば、標準化されていないものとか、意思決定をするために一体になっているものなど、多数のさまざまな種類のデータセットが存在しています。

——2010年に「黒人の女の子たち」を初めて検索したときから、状況は良くなりましたか、悪くなりましたか?

黒人の女の子たちについて、特にポルノとの関係で言えば、私が文章にしたり公の場で話したりするようになってから、状況は変わりました。現在ではポルノや過激な性描写の内容は最初のページには現れません。ですからそのことは、大きく取り沙汰はされませんが、静かなる進歩だと思っています。でも、他の地域、南米やアジアの女の子たちなどは、今でも極めて性的な対象として検索結果に現れます。

人気の記事ランキング
  1. AI’s search for more energy is growing more urgent 生成AIの隠れた代償、激増するデータセンターの環境負荷
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。2024年受賞者決定!授賞式を11/20に開催します。チケット販売中。 世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を随時発信中。

特集ページへ
MITTRが選んだ 世界を変える10大技術 2024年版

「ブレークスルー・テクノロジー10」は、人工知能、生物工学、気候変動、コンピューティングなどの分野における重要な技術的進歩を評価するMITテクノロジーレビューの年次企画だ。2024年に注目すべき10のテクノロジーを紹介しよう。

特集ページへ
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る