The Financial World Wants to Open AI’s Black Boxes

金融業界、AIに説明機能を求める

ひたすら精度を向上させてきた機械学習は、なぜそう判断できるのかの説明機能が疎かだ。しかし、法令で顧客等に判断理由を示さなければならない金融業界に機械学習を導入するには、説明機能の向上が欠かせない。 by Will Knight2017.04.14

テクノロジー業界では近年、高性能な数々の機械学習手法が嵐を巻き起こしている。機械学習は、音声認識や画像認識、機械翻訳等の多くの分野で、大幅な性能の向上をもたらしている。

機械学習は今、他にも数多くの分野に大きな影響をもたらしつある。そのひとつが金融業界だ。しかしある重大な問題が金融業への機械学習応用を阻んでいる。「深層学習」のアルゴリズムがどのように結論を導き出すのか、たいていは説明できない問題だ。

キャピタル・ワンのアダム・ウェンチェル部長（機械学習・データ・イノベーション担当）によると、同社はクレジットカード審査の合否判定を含め、あらゆる業務に深層学習を取り入れたいと考えている。ところが、申し込んで来た顧客に対して審査結果の判断理由を説明することが法律で義務付けられているため、機械学習による審査は実現できない。そこでキャピタル・ワンは昨年、こういったコンピューター技術をよりわかりやすく改良する方法を探ることを目的に、ウェンチェル部長をリーダーとする研究チームを発足させた。

「説明可能性という高度な条件をクリアしつつ、同時により進歩した、そして本質的には、より不透明なモデルを追求できるのかを確かめるのが、研究の目的です」とウェンチェル部長はいう。

深層学習は今から5年ほど前、人間の認知能力を模倣する有効な手段として登場した。深層学習では、巨大なニューラル・ネットワークを訓練することで、データ内のパターンを識別する手法が用いられる。この手法は、生物が学習する際にニューロンとシナプスがどのように働くかを説明する理論から大まかな着想を得て考案された。個々のニューロンの役割を果すのはただの数学的関数に過ぎないが、互いに連結したこれらの関数は複雑なため、深層ネットワークによる推論の過程を紐解くのは非常に困難だ。

深層学習より透明性が高く、特定の分野では深層学習を超える性能を発揮している機械学習の手法もある。しかし、金融業界での応用に適した高度な分析が可能な深層学習の仕組みを解明するのは至難の業だ。

一部のスタートアップ企業は、より透明性の高い手法を用いると約束することで、既存のアルゴリズムのわかりづらさに関する懸念を逆手に取ろうとしている（「ゼストファイナンス、AIと機械学習で与信革命を起こしたと発表」参照）。

今後数年で深層学習がより広く普及し、規制機関がアルゴリズムによる判断の説明責任に注意を向けていくにつれて、この課題の重要性はさらに高まっていくかもしれない。「一般データ保護規則」（EUの個人情報保護法）のもと、欧州連合は来年からすべての企業にアルゴリズムによる判断に関する説明能力を求めることになるかもしれない。

この課題は、米国防総省の研究機関、米国国防先端研究計画局（DARPA）の関心も引きつけた。DARPAは昨年、機械学習の透明化に取り組む事業を対象とする資金提供に乗り出した。(関連記事「結論しか出さない機械学習システムでは使い物にならない」参照）。資金提供対象に選ばれた13事業はそれぞれ、アルゴリズムの透明性を高めるためのさまざまなアプローチを提示している。

機械学習に期待されているのは、単に人間の認知能力を代替する以上の用途に用いられることだ。たとえばクレジットカード会社ならば、信用履歴などの金融データを深層ネットワークに取り込み、クレジットカードの支払いを怠る可能性のある人を識別する、といった使い方ができるかもしれない。

キャピタル・ワンにとっての深層学習は、クレジットカードの不正利用自動検出を確実にする手段だ。ただし、判断の仕組みを精査できないなら、キャピタル・ワンはそのようなシステムを信用しづらいとウィンチェル部長はいう。「弊社を含む金融産業には厳しい規制が課せられているのです。ある判断を下すとき、顧客だけでなく業界内部に対してもその理由が説明できなければなりません
。正当な理由に基づいていることを明確にしなければなりません」

DARPAの出資先に選ばれた研究計画のひとつを率いるカリフォルニア大学バークレー校のトレバー・ダレル教授は、「深層学習は今、非常に大きな話題となっている言葉です。コンピューター・ビジョンと自然言語処理は目覚ましく進歩しています。しかし深層学習システムは、システム内部で何が起きているか把握するのが困難な場合があるため、批判もされています」という。

ダレル教授の研究グループはDARPAの出資を受けたプロジェクトのために、数種類の新たな深層学習手法を開発中で、複数の学習を同時にこなせる、以前よりさらに複雑な深層ネットワークなどを研究中だ。訓練データに説明を付け加える手法もそのひとつだ。画像認識の場合でいえば、「猫」と分類された画像は「なぜ猫に分類されたのか」の理由と組み合わされる。クレジットカードの請求にこれと同様の手法を応用して、不正利用を判定できるかもしれない。「こういったことすべてが、より説明が簡単な深層ネットワークの開発につながるのです」

人気の記事ランキング

タグ	ブラックボックス人工知能金融銀行業
クレジット	Photograph by Jean-Sebastien Evrard \| Getty

ウィルナイト [Will Knight]米国版 AI担当上級編集者: MITテクノロジーレビューのAI担当上級編集者です。知性を宿す機械やロボット、自動化について扱うことが多いですが、コンピューティングのほぼすべての側面に関心があります。南ロンドン育ちで、当時最強のシンクレアZX Spectrumで初めてのプログラムコード（無限ループにハマった）を書きました。MITテクノロジーレビュー以前は、ニューサイエンティスト誌のオンライン版編集者でした。もし質問などがあれば、メールを送ってください。