アルゴリズムだけでは問題を解決できない

中島　お2人とも社会を相手に研究していて、我々が昔、箱庭や積み木の世界をやっていたころから随分変わったという印象を受けています。簡単にそれぞれの研究内容を教えていただけますか。

五十嵐　私は公平な資源配分メカニズムを研究しています。例えば学生に授業をどうやって公平に割り当てるか、家事を家族でどうやって公平に分担するか、そういったことを数学の力を使って解決する研究です。同じテーマの研究は、経済学や数学の分野で昔からありましたが、特に最近、計算機科学分野からの参入が活発になっています。

そのきっかけは、2014年にカーネギーメロン大学のグループが一般向けにリリースした公平な資源配分のためのWebサービスでした。意外にも人気が出て、需要があることがわかったのです。その後、サービスのユーザーを交えたコミュニティで、どういうものが公平か、どういうときに公平性が保証できるかという研究が活発になりました。私はその流れを汲んで研究をしています。

成田　私はデータやアルゴリズムを使ったビジネス・公共政策のデザインを専門にしていて、AIについては日曜大工的にちょっとかじらせていただいている感じです。興味があるのは、社会的に重要な意思決定や資源配分をするアルゴリズムを、いかにデータを用いて設計していくか、改善していくかということです。それを理論的に考えると同時に、政策からビジネスまで、特に重要度が高い社会課題に使っていくことをしています。

例えばAIや機械学習アルゴリズムが典型だと思いますが、ソフトウェアの形でデジタルに書き下されたアルゴリズムやルールを使って何らかの意思決定をしたり資源配分をしたりすることが、ごく普通に行われるようになってきました。ビジネスではもちろんのこと、政策領域でもそのような事例はどんどん増えています。例えば裁判の判決や警察のパトロール、教育や医療の個別最適化にアルゴリズムが使われるようになってきています。

意思決定アルゴリズムを使う上で難しいのが、今使われているアルゴリズムが必ずしも最適なものとは限らないという点です。今あるアルゴリズムから出発して、その運用が自然につくり出したデータを使いながら自動的にそのアルゴリズムを改善していけたらうれしいですよね。そのための理論をつくり、ソフトウェア化し、実際に使ってみるという研究をしています。

また、理論だけでなく、政策とビジネスへの応用も行っています。政策への応用では、例えばコロナ禍で病院に対して政府が補助金を給付する場合、どの病院にどれくらいの補助金を出すかを決めるために、アルゴリズムAIを使う事例があります。その場合、その補助金アルゴリズムから出てきた行政データを自治体や政府から共有してもらい、それに基づいて今あるアルゴリズムを評価し、改善していくための政策提言を行います。ビジネスの応用では、主に日本のテック企業と共同研究をしながら、彼らのビジネスの改善を支援しています。政策は主に米国、ビジネスは主に日本と分けて活動しています。

中島　社会を相手にしたときに問題になるのは、例えば公平性でいえば、アルゴリズムだけでは足りなくて、何が公平か、資源配分として何が最適かの基準は社会の側にあると思います。その辺りはどのように考えていますか。

五十嵐　私の場合はこれまでずっと理論研究をしてきたので、他分野の、例えば哲学や社会学の方との交流は現段階ではほとんどありません。ただ理論を社会実装していくことにはとても興味があります。

もし自分の研究を応用して財産分割アプリをつくったとしたら、そこで出てくる問題はいろいろ考えられます。例えば、どうやってユーザーにアルゴリズムを説明するか。一つの財を2人に分配しなければいけないような「公平な解が存在しない」ときにどうやって解決すれば良いのか。そういった問題は、他分野の方と話し合いながら決めていかなくてはならないと思っています。

成田　私は今、まさに価値観や規範的判断の問題に直面しています。まず、「価値判断の基準をどのように設定すれば良いか」という問題が重要である領域と重要でない領域がはっきり分かれている印象があります。重要でない領域というのは、比較的安定しているビジネス領域での応用のケースがそれに当たります。例えば、広告・メディア業界やWeb産業の大企業におけるクリック率やコンバージョン率などのKPIはすぐに測れる会社の事業目標で、短期的にはあまり変わらない。そういう場合には、そのKPIに向かって最適化していけばいい、めでたしめでたしで終わりです。でもそれは、解きやすい問題に自分たちの知性と感性を押し込めて視野狭窄に陥っているだけともいえると思うのです。社会的に重要な問題というのは、定義上一つのKPIを設定するのが難しいはずですから。

一方で、価値判断基準の設定が重要な問題になる領域として、一つは変化が激しい産業や会社の場合が挙げられます。例えば私が一緒に仕事をしている会社はすごい勢いで急成長していて、半年経つと市場が全く別、会社が全く違った姿になっていたりします。第1四半期と第2四半期のKPIが違うことがごく普通にあるんです。こういう領域だと、短期的なKPIの変化に振り回され過ぎると、何に向かってアルゴリズムをつくっているのかがわからなくなってしまう。変わりゆく市場のなかで、長い目で見たときの企業の成長、産業の成長にとって重要なKPIが何なのかを見極めることが重要になると思います。

価値判断基準の設定が顕著に重要になる領域のもう一つが、政策領域だと思います。私自身は教育と医療の分野で仕事をしているのですが、この辺りは何をKPIとすればいいかわからないことが、その分野の本質そのものという感じです。例えば教育の領域では、比較的測りやすい指標、短期視点だとテストの点数、長期視点では所得水準のようなものを、とりあえずKPIとして使うことが多いです。でも、それが不十分なのは誰にとっても明らかです。

特に日本のような国は、米国のように合理的過ぎる国と違って、とりあえずテストの点数や所得を最適化していけばいいとはならず、ステークホルダーを説得しようとする段階で「何が教育の目的なのか」という議論が前面に出て来ざるを得ない部分があります。そういう部分で、自治体や政府の担当者、その他の教育学者や社会学者などと話しながらいかに合意を得ていくかは、個人的にも重要な問題として直面しているところです。

中島　政策決定の話では、「投票」というシステムがありますよね。経済学者がいうように、多数決が必ずしも良いわけではないことはわかっているにもかかわらず、選挙でもいまだに使い続けています。多数決の一番の欠点は「票割れ」です。似たような候補者が複数いたら、その人たちの間で票が割れて別の人が勝ってしまう。なぜ多数決をやめないのか。今はコンピューターで複雑な計算もできるわけだから、AIを研究している人から新しい提案が出てくるといいなと思います。

私は2004年から、はこだて未来大学の学長を務めましたが、当時は台湾との連携が多くて主要な大学には全部行きました。そこで面白かったのは、行く先々で「うちの大学は台湾で1位です」というわけです。それぞれ指標が違っていて、自分の大学が1位の指標を持っている。だから、自分たちで指標を決めて独自性を出すというのも面白いと思いますね。

AIと社会の間をつなぐ倫理・正しさ

中島　AIに学習させるデータにバイアスがあることで、データ的には正しいものの、社会の視点ではその結論が使えないケースがたくさんあります。例えば過去の犯罪者の顔のデータをAIに学習させて、罪を犯しそうな人をAIに検出させたら特定の人種ばかりになってしまうようなケースです。では、どうするべきか。逆のバイアスをかけるのか、その場合、どの程度戻すのが正しいのか、技術とは別の議論をしなければいけません。これからのAIは、社会と離れたところでは成り立たない気がしています。

成田　これまでのAIは、画像検索や機械翻訳など使う目的が誰の目にもはっきりしていて議論の余地がないタスクに集中することで成果を上げてきました。しかし、社会にとってそもそも何が大事な問題なのか。虚心坦懐に立ち返ってみると、解決すべきもっと大きな問題があることに誰でも気づくはずです。先ほどの選挙の問題や民主主義の問題は、まさにその代表格です。民主主義あるいは資本主義のようなものを動かす基本的なルールを再設計するというような一番重要なタスクにどのようにAIを使うかは、今後数十年の最も大きいAI研究の課題になるでしょう。

中島　そういう意味では、AI倫理の決定版がありません。日本では人工知能学会倫理委員会が定めた倫理指針があるのですが、要約すると「悪いことをしてはいけない」としかいっていない。ほしいのは倫理的に何が悪いことで、何が良いことかの基準です。そしてそれが、AIと社会の問題と密接に関わり合っている。

五十嵐さんの公平性の話もたぶん同じで、例えばジェンダーの公平性という話がありますよね。昔ある女性の国会議員が「機会均等では駄目だ、結果均等にしなさい」という言い方をしていました。どちらが正しいかは一概にいえない話ですが、これに関する理論は何かあるのでしょうか。

五十嵐　具体的な研究としては、「機会的な公平性も、結果的な公平性もバランスを取るべきだ」という議論があります。例えば、宝くじのように一様にランダムに誰かを選ぶやり方は、機会的な意味では公平です。けれども、何らかの公的な補助金を同様に配ってしまうと、結果的に不平等になってしまいます。そのときに両者のバランスをどうやって取るのか。

その答えは問題にもよりますが、簡単な資源配分の例だと、randomnessとdeterminismをうまく混ぜる形になります。ラウンドごとに分けて、全体ではdeterministicにやるけれども、各ラウンドを見ると不作為性がある。うまく織り交ぜると、機会的にも結果的にもまあまあ平等になります。

成田　五十嵐さんがされている公平な資源配分に関する研究だと、「何が公平か」の要件を記述した数学的な公理を考えて、それを満たしているかどうかで善し悪しを判断していくことが多いですよね。それは重要だと思うのですが、同じぐらい重要なこととして、私たちが肌感覚として納得するか、逆に抵抗があるかといった、公理としては書き下せないけれども、動物としての人間が表してしまう心と体の反応があると思います。公平性の公理は満たしていても炎上するときはしてしまう（笑）。

この私たちの心と体が示す反応を学習して、私たちが公平だと感じられる意思決定や資源配分を行うアルゴリズムをどうやってつくれるか、これは重要な問題です。おそらく今世紀後半には、自治体や政府の機能をいかに自動化するかが重大な問題になるでしょう。そのときに、AIによってなされた意思決定に対して人間がどう感じたか、世論はどう反応したかを読み取って、それに対してさらに反応するAIをいかにしてつくるのか。その意味では、数学的な公理に依存する部分と、人間がどう反応したかというデータに拠る部分、両者を融合したようなAIが必要になってくるのかもしれません。

日本の強みとAIによる社会課題の解決

中島　成田さんは米国で研究や社会実装を続けています。五十嵐さんは英国で研究されたご経験があります。日本と海外の環境を比べてみてどう感じますか。

成田　私は米国の大学で学術研究をしていますが、日本では研究という感じの研究はほとんどしていません。企業や自治体と仕事をしたり、メディアで仕事をしたりという、自由活動みたいなことをしています。そういう混合活動が楽しいです。

日本のいいところを挙げるとすると、良くも悪くも米国のような激しい競争にさらされていないことがあると思います。最近の米国のコンピューターサイエンスの大学院の入試や教員の採用を見ているとあまりに過当競争で、完璧な成績表とトップカンファレンスに5本以上パブリケーションがある人しかPh.D.に入れない状況です。

そういう状況だと、先ほど話したような本当に重要な問題に腰を据えて取り組むことはできません。当然、学会の潮流からずれたことはできません。そういう意味で、自由に考えたり、大きなことを考えたりする場所として日本は良いところだと昔から感じています。

五十嵐　私が研究をしていたのは英国ですが、成田さんのお話のように、特にここ2、3年のコンピューターサイエンス分野の競争の激しさは、つらいものがあるような気がします。オックスフォードへの留学は非常に楽しい経験で、英国は米国よりは多少緩い文化ですが、それでもランチタイムに「トップカンファレンスに何本論文通ったか?」と聞かれてプレッシャーを感じていました。日本も最近の傾向として、米国的なカンファレンス至上主義のようなものが若干ある気はしますが、そこまで激しくはないですね。

中島　今、研究も含めていろいろなことが国際的になってきています。日本だけで何とかしようというよりは、成田さんが話されたように、「こういうことは米国で」「こういうことは日本で」と分けて考えるほうが良いのではないかと思いました。AIに関して言うと、日本は基礎研究でがんばるのはやめたほうがいい。グーグルなどが機械学習の良いプログラムを開放してくれているのだから、その上でアプリケーションに注力するのが、日本の役割ではないかと思います。

五十嵐　中島先生がおっしゃっているように、特に学術研究の世界では国際社会と連携しなければ、そもそも日本だけでは人材が足りず難しいと感じています。ただし、比較的狭い研究の世界とは異なり、応用の現場は、プレイヤーも問題も多種多様なので、それぞれの場所でどんどん成功例を増やすこともできると思います。

最近は、AI技術が医療・教育・自動運転など社会の様々な場面で応用が進み役立っています。今後も、AI技術の進歩のおかげで、これまでに解くことが難しかった問題を解くことが可能になり、様々な物事の効率化が進むと思います。しかしながら、人権問題、格差の是正など、社会の安定性に関わる問題に対しては、AI技術があまり成功している印象はありません。私は公平な資源配分の研究をしていますが、例えば家事分担の公平性を目標にする場合、参加者にとって負担が増えることもあり、なかなかAI技術での介入の仕方が難しいこともあります。より複合的な問題解決をしてくれるAI技術が誕生してくれるといいなと思います。また、AI技術と社会との関わり方も今後ますます重要な課題になると思います。

成田　日本は人材のプールも貧しくお金もあまりない、計算資源もないという感じなので、もういろいろなものがない状況だと思います。だから、資源を投下することが重要な領域で戦うのは無理があると思います。どちらかというと物量勝負の領域からは積極的に撤退して、先ほど話した民主主義AIをつくるみたいな、ちょっとSF的で思考実験に近いようなタイプの、おかしな研究をやる方向に行ったらいいのではないかという気がしています。そういう大きな社会構想系と並んで重要なのが、日本という世界一の高齢化社会が抱える日々の生活の困難に取り組むことですね。介護や医療です。日本が他のどの国より切実だと感じている課題に利己的に取り組むことが、結果として世界のためにもなるのではないでしょうか。

◆

本記事は、『AI白書2022』（2022年4月、角川アスキー総合研究所刊）を一部転載したものです。

• 2
• 6

人気の記事ランキング

1. These AI Minecraft characters did weirdly human stuff all on their own マイクラ内に「AI文明」、 1000体のエージェントが 仕事、宗教、税制まで作った
2. Google’s new Project Astra could be generative AI’s killer app 世界を驚かせたグーグルの「アストラ」、生成AIのキラーアプリとなるか
3. Bringing the lofty ideas of pure math down to earth 崇高な理念を現実へ、 物理学者が学び直して感じた 「数学」を学ぶ意義
4. We saw a demo of the new AI system powering Anduril’s vision for war オープンAIと手を組んだ 防衛スタートアップが目指す 「戦争のアップデート」