KADOKAWA Technology Review
×
MITTRが選ぶ35歳未満のイノベーター「IU35 2024 Japan」発表!
11/20授賞式開催決定

ニューズラインエマージング・テクノロジーの最新情報をお届け。

AIの差別排除へ人種やジェンダーで分類、グーグルが研究
Sam Manns | Unsplash
Google’s New AI Smile Detector Shows How Embracing Race and Gender Can Reduce Bias

AIの差別排除へ人種やジェンダーで分類、グーグルが研究

コンピューター・ビジョンは、ますます多様な表情を見分けられるようになってきている。しかし、少数民族や中性的な容姿の女性など、訓練用データセットが足りない特定のグループに対しては、十分な成果を上げられないことがある。

グーグルの研究チームは、アーカイブ(arXiv)に投稿した新しい論文で、人種とジェンダーの分類器を組み込み、訓練することで、笑顔を検出するアルゴリズムを改良する方法を発表した。分類器は4つの人種グループ(アジア系、黒人、ヒスパニック、白人)と、2つのジェンダーグループに分けて訓練された。

この手法は、フェイシズ・オブ・ザ・ワールド(FotW:Faces of the World)を使ったテストで約91%という精度で笑顔を検出した。FotWはWebから収集した人の顔の画像1万3000枚のデータセットで、この種のアルゴリズムのベンチマークによく使われる。今回のテスト結果は前回を1.5%程度上回った。テスト結果の総合的な向上により、「人種的な偏見がない」という抽象的な目標でアルゴリズムを構築するよりも、具体的に人種やジェンダーに注目したほうが良い結果が得られることが示された。

システムに人種とジェンダーの明確な類別があることで偏見を助長してしまう(あるいは少なくともそのことで非難される)可能性を憂慮して、こうした分類器を取り入れることに消極的な研究者は多い。しかし、グーグルの研究チームによる今回の研究結果は、人種やジェンダーの分類器を訓練する取り組みが、実際には偏見の緩和に役立つと実証している。また研究チームは、無意識の社会的偏見を可能な限り排除するため、「ジェンダー1」「ジェンダー2」といった分類をした。

有望な研究成果を挙げ、あらゆる種類の偏見へ配慮したにも関わらず、研究者は論文に「倫理的配慮」の項を設け、この研究は「人種およびジェンダーの識別を最終目的とするものではない」と明記した。また、人種を分類する「絶対的基準」は存在しないとし、ジェンダーについても、男性・女性といった二者択一ではなく、今後の研究では男性と女性の間を連続する範囲として捉えていくべきであろうと述べている。

jackie.snow [Jackie Snow] 2017.12.17, 8:55
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。2024年受賞者決定!授賞式を11/20に開催します。チケット販売中。 世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を随時発信中。

特集ページへ
MITテクノロジーレビューは有料会員制サイトです
有料会員になると、毎月150本以上更新されるオリジナル記事が読み放題!
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る