検索エンジンの差別、
何が問題なのか？

インターネットは差別や不公平のない土俵のように思われるが、そうではない。サフィア・ウモジャ・ノーブルがその事実に直面したのは、ある日検索エンジンで姪っ子たちが興味を持ちそうな話題を探していた時だった。「black girls」（黒人の女の子たち）という言葉を入力したところ、ポルノ写真で埋め尽くされたページが現れたのだ。

ノーブルはぞっとしたが、驚いたわけではなかった。カリフォルニア大学ロサンゼルス校（UCLA）の教授（コミュニケーション学）を務めるノーブルは、長年にわたって、Webの価値観はその構築者の価値観、つまり概して白人の西洋人男性のそれを反映し、少数派や女性たちの価値観を反映していないと主張している。ノーブル教授の最新著書、『Algorithms of Oppression（抑圧のアルゴリズム）』には、ノーブル教授が運命的なグーグル検索をした後に開始した調査の詳細が書かれており、我々がインターネットを通してどのように情報を入手かを決定する隠れた構造が探究されている。

2月に発売されたこの本によると、検索エンジンアルゴリズムは、グーグルが言うほど中立的なものではない。アルゴリズムは、ある検索結果を他よりも優先させたり、一見中立的なコードでさえ、社会のバイアスを反映していることがある。さらに、アルゴリズムがどのように機能するのか、より広範なコンテキストは何なのか、といったことをまったく知らなくても、検索は「黒人の女の子たち」といったあるトピックに関する議論の行方を不当に決定してしまうことがあるのだ。

ノーブル教授はMITテクノロジーレビューのインタビューに応じ、現行のシステムに根ざす問題点、グーグルによる改善策、そして人工知能（AI）がいかに状況を悪化させることになるか、について語った。

——検索エンジンの仕組みについて人々が誤解していることは何でしょう？

一番近いスターバックス、のような具体的な言葉、つまり意味の限られた簡単に理解できるようなものを検索する場合はうまくいくのです。ところが、アイデンティティとか知識を取り巻くもっと複雑な概念になってくると、検索エンジンには問題が出てきます。世の中の人々が、検索エンジンを使えば、真実だと考えられる情報、詳しく調べあげられた情報、信用できる情報といったものを手に入れられると頭から依存さえしなければ、大きな問題にはならないのです。検索エンジンとは何なのかについて人々が抱いている最大の誤解はここにあると考えています。

——バイアスの問題に対処するため、グーグルは通常ある種の検索結果を抑制していますが、もっと良い方法はあるでしょうか？

世界中の知識を整理するなどといったとてつもないプロジェクトから撤退するか、あるいは見直しを図って、こう宣言するのです。「これは不完全なテクノロジーです。意図的に操作することも可能です。どのように操作されているかご覧にいれましょう。我々は自社製品のそのような部分をより明らかに示し、みなさんに検索結果は極めて主観的な性質のものであることを承知していただきたいのです」。それによって、グーグルあるいは多くの企業は、信頼の置けるもの、頼りになるものを提供しているといえるようになります。そしてここからが極めて難しくなるわけですが。

——機械学習は、あなたが著書に書かれたような人種差別や性差別を、どのように恒久化させてしまうことになるでしょうか？

私はAI、いわゆる自動意思決定システムが今世紀における人権問題になると主張してきました。心底そう確信しています。機械学習のアルゴリズムやプロジェクトは、もともとバイアスのある不完全で誤ったデータを使っており、人間は機械にそうした情報に基づいた意思決定の方法を教えているのですから。そのことでさまざまな極端かつ危険な検索結果をもたらすことになるはずです。

とにかくAI はどんどん介入するのが難しくなっていくでしょう。というのは、そのAIやシステムの構築のためにどんなデータが使われたかが、より不明確になっていくからです。たとえば、標準化されていないものとか、意思決定をするために一体になっているものなど、多数のさまざまな種類のデータセットが存在しています。

——2010年に「黒人の女の子たち」を初めて検索したときから、状況は良くなりましたか、悪くなりましたか？

黒人の女の子たちについて、特にポルノとの関係で言えば、私が文章にしたり公の場で話したりするようになってから、状況は変わりました。現在ではポルノや過激な性描写の内容は最初のページには現れません。ですからそのことは、大きく取り沙汰はされませんが、静かなる進歩だと思っています。でも、他の地域、南米やアジアの女の子たちなどは、今でも極めて性的な対象として検索結果に現れます。

• 127
• 21
• 5
• 0

人気の記事ランキング

1. Why handing over total control to AI agents would be a huge mistake 「AIがやりました」 便利すぎるエージェント丸投げが危うい理由
2. OpenAI has released its first research into how using ChatGPT affects people’s emotional wellbeing チャットGPTとの対話で孤独は深まる？ オープンAIとMITが研究
3. An ancient man’s remains were hacked apart and kept in a garage 切り刻まれた古代人、破壊的発掘から保存重視へと変わる考古学
4. How to have a child in the digital age 「あなたはもうママですね」 ネット・デジタルが約束する 「完璧な出産」の幻想