数年前、リンクトイン（LinkedIn）は、求職者と求人情報をマッチングさせるために使用していた自社のアルゴリズムがバイアスのかかった結果を出力していることに気付いた。このアルゴリズムは求職者を、特定の職種に応募する可能性や、採用担当者に返信する可能性がどれぐらい高いかを部分的な基準としてランク付けしていたが、募集中の職種に対し、女性よりも男性を多く紹介していたのだ。その理由は単に、男性の方が新たな機会を求めることに積極的である場合が多いというだけのことだった。

リンクトインはこの問題に気付き、最初の結果のバイアスを打ち消すために別の人工知能（AI）プログラムを構築した。一方、世界最大手の求人検索サイトの中には、全く異なる手法でそれぞれのプラットフォーム上のバイアスに対処しているところがある。例えばキャリアビルダー（CareerBuilder）、ジップリクルーター（ZipRecruiter）、モンスター（Monster）などのサイトだ。これに関してMITテクノロジーレビュー（米国版）は、ポッドキャストの最新話「我ら機械を信ず（In Machines We Trust）」で報道している。しかし上記のプラットフォームは、自社のシステムの正確な仕組みを公開していないため、実際にそうした対策が差別を防ぐことにどれほど効果を発揮しているのかを求職者が知ることは難しい。

もし現在、あなたが新たな求人情報を探し始めるところなら、AIが求職結果に大きな影響を及ぼす可能性が高い。AIはあなたが求人検索プラットフォーム上でどのような投稿を見ているかを割り出し、履歴書を企業の採用担当者に送信するかどうかを判断する。企業の中には、AIが搭載されたビデオゲームをプレイするよう求めるところもあるかもしれない。性格特性を判定し、特定の職種に適しているかどうかを測定するためだ。

新たな従業員の募集や採用にAIを利用する企業が増えてきており、採用過程のどの段階にでもAIが組み入れられる可能性がある。新型コロナウイルス感染症（COVID-19）の蔓延によって、採用テクノロジーの新たな需要が増えた。AIを活用した面接を専門に扱う企業であるキュリオス・シング（Curious Thing）とハイアービュー（HireVue）は両社とも、パンデミックの期間に売上が急増したと報告している。

求職活動の多くはシンプルな検索から始まるため、求職者はリンクトインやモンスター、ジップリクルーターなどのプラットフォームに向かうことになる。履歴書のアップロード、求人情報の閲覧、募集中の職種への応募ができるからだ。

このようなWebサイトの目的は、資格を満たしている求職者と募集中の職種をマッチングさせることだ。多くのプラットフォームは、募集中の職種と求職者の全てを体系的にまとめるために、AIを搭載したおすすめアルゴリズムを採用している。このアルゴリズムはマッチング・エンジンと呼ばれることもあり、求職者と採用担当者双方からの情報を処理し、それぞれに対しておすすめリストを生成する。

「採用担当者はあなたの履歴書を6秒しか見ないという噂を聞いたことがあるのではないでしょうか」と、モンスターのプロダクト・マネジメント担当副社長のデレク・カンはそう語る。「当社が構築したおすすめエンジンを使えば、その時間をミリ秒まで減らせます」。

マッチング・エンジンの多くは、応募者を絞り込むために最適化されている。そう語るのはリンクトインのプロダクトマネジメント担当の元副社長ジョン・ジャーシンだ。こうしたシステムはデータを次の3つのカテゴリーに分けておすすめ情報を作成している。一つめは、ユーザーが直接プラットフォームに提供した情報。二つめは、類似のスキルセット、経験、興味関心を持つ別のユーザーを基準としてユーザーに適用されたデータ。三つめは、求人情報のメッセージに対してユーザーがどの程度の頻度で返信や交流をしているかといった行動データだ。

リンクトインの場合、こうしたアルゴリズムでは個人の名前、年齢、ジェンダー、人種を除外している。こうした要素を含めてしまうと、自動化された処理の中でバイアスを生じさせる可能性があるからだ。しかしジャーシン元副社長のチームは、たとえそうした要素を除外しても、リンクトインのアルゴリズムは特定の性自認グループが示す行動パターンを検出可能であることを見い出した。

たとえば、男性は自分の能力以上の職務経験が必要とされる職種に応募しがちだが、女性は自分の能力が募集要件に見合っている求人だけに応募する傾向がある。アルゴリズムはこうした行動の違いを解釈し、意図せずに女性に不利になってしまう形でおすすめ情報を調整する。

「たとえば、能力的には同レベルだとしても、特定のグループに対して別のグループよりも上級の職種を推薦する可能性があります」とジャーシン元副社長は語る。「そうした人々は平等な機会に触れることができなくなります。まさにその影響こそが問題なのです」。

また男性は女性と比較して、習熟度の低いスキルを履歴書に多めに記載し、プラットフォーム上で採用担当者と積極的に関わることが多い。

こうした問題に対処するため、ジャーシン元副社長はリンクトインのチームと共に、より実際の状況を表している結果を出力するように設計した新たなAIシステムを構築し、2018年に運用が始まった。同システムは本質的に別個のアルゴリズムを用いており、おすすめ情報の特定のグループへの偏りを打ち消すよう設計されている。このシステムにより、元のマッチング・エンジンが生成した情報を表示する前に、おすすめシステムがジェンダーを超えて平等に情報を配分していることを保証している。

モンスターのカン副社長は、500万から600万件の求人を常時掲載しているモンスターでも、行動データをおすすめ情報に利用しているが、リンクトインと同じ方法ではバイアス修正をしていないと言う。その代わり、多様なバックグラウンドのユーザーがサービスに登録するようにマーケティングチームが力を入れている。また、採用担当者が代表的な求職者の一群を合格させたかどうかをモンスター側に報告してもらっている。

キャリアビルダーのイリーナ・ノボセルスキーCEO（最高経営責任者）は、自社のサービスが収集したデータを活用し、求人広告からバイアスを取り除く方法を採用担当者に指導することに力を入れていると言う。たとえば「『ロックスター』という単語が含まれている求人票を求職者が読んだ場合、応募する女性の割合はかなり低くなります」とノボセルスキーCEOは語る。

ジップリクルーターのCEO兼共同創業者であるイアン・シーゲルは、ジップリクルーターのアルゴリズムは求職者をランク付けする際に、名前のような特定の識別特性を考慮に入れておらず、その代わりに、たとえば地域的な情報など、64種類の別々の情報に基づいて求職者を分類していると言う。シーゲルCEOは、ジップリクルーターは自社のアルゴリズムの詳細については知的所有権上の懸念を理由として話せないと述べ、次のように付け加えた。「当社は現在、できる限りの能力主義的な評価をしていると考えています」。

採用プロセスの各段階が自動化されることで求職者は今や、アルゴリズムと採用担当者の両方に対して自分を目立たせる方法を学習しなければならなくなった。しかし、こうしたアルゴリズムが何をしているのかについての明確な情報がない中、求職者は大きな困難に直面している。

「人々はアルゴリズムやおすすめエンジンが求人に与えている影響を過小評価していると思います」とモンスターのカン副社長は言う。「あなたが自分自身をどのように示しているかは、人間の目に触れるよりも前に、数多くの機械やサーバーに読み取られている可能性が高いのです」。

• 13
• 2
• 8

人気の記事ランキング

1. How this grassroots effort could make AI voices more diverse 世界中の「声」を AIに、180言語を集める草の根プロジェクト
2. Who’s to blame for climate change? It’s surprisingly complicated. CO2排出「責任論」、単一指標では語れない複雑な現実
3. Google DeepMind has a new way to look inside an AI’s “mind” AIの「頭の中」で何が起きているのか？ ディープマインドが新ツール
4. Exosomes are touted as a trendy cure-all. We don’t know if they work. 「奇跡の薬」エクソソーム、 効果不明も高額治療が横行