著名なフューチャリストであるニューヨーク大学のエイミー・ウェッブ教授はこの10年間、ほとんどの時間を、人工知能（AI）についての研究や議論、多くの人や組織との面会に費やしてきた。「AIに関するあらゆる点で世の中の熱狂は最高点に達しています」と、ウェッブ教授は言う。ここで、AIはどこに向かっているのかについて、一歩引いて見てみよう。
ウェッブ教授は新刊『The Big Nine: How the Tech Titans and Their Thinking Machines Could Warp Humanity（ビッグナイン：テクノロジーの巨人とその人工知能が人間性を歪める）』（2019年、未邦訳）で、テクノロジーの進歩が危うい方向に向かう様子に警告を発しつつ、動向を俯瞰している。米国では、グーグルやマイクロソフト、アマゾン、フェイスブック、IBM、アップル（以下「G-MAFIA」）が、資本主義市場からの短期的な厳しい要求に悩まされており、長期的な目で見た慎重なAI計画を作るのは不可能な状況だ。中国では、テンセントやアリババ、バイドゥが、大量のデータを統合・分析し、政府の権威主義的な野心を刺激している。
この軌道を修正しなければ、人類は一直線に破滅へ向かってしまうと、ウェッブ教授は主張する。だが、まだ行動を起こす時間はある。そして、すべての人に果たすべき役割がある。ウェッブ教授は、MITテクノロジーレビューのインタビューで、昨今のテクノロジーの進歩を懸念している理由と、私たちに何ができるのかを語った。
＃
——現在、テクノロジーや政治、経済分野での動向が、悩ましい方向に収束していると述べられていますね。テクノロジーの動向について詳しく教えていただけますか？
テクノロジー分野の研究者と話すと、AIに関する多くの規制を作るのに、かなりの時間を要するだろうと言います。ここでいうAIとは、完全な自動運転車や絶対認識、汎用人工知能（AGI）といった、認識能力があり人間のように考えるシステムのことです。
私の目から見ると、歩いたり話したりするような機械や、姿なき声で自律判断する機械の限界に今の時点で注目するのは、少し的外れです。私たちは、すでに数十億もの小さな進歩を遂げています。これらは時間の経過とともに複合的な影響を及ぼし、一度に多くの決定を自律的に下せるシステムにつながっていくでしょう。
たとえば、ディープマインド（DeepMind）は、囲碁で人間に勝つためのAIの訓練に熱心に取り組んできました。ディープマインドは、階層型強化学習やマルチタスク学習のような分野で抜きん出ています。「アルファ碁（AlphaGo）」の最新版である「アルファゼロ（AlphaZero）」は、人間と対局しなくても、あっという間に3種類のボードゲームを習得しています。これはかなり大きな飛躍です。敵対的生成ネットワークという手法を使えば、大量の静止画から極めてリアルな「実在しない」人の顔を作り出すこともできます。
こういった進歩は、汎用人工知能について言われていたほど、魅力的でも期待感を抱くようなことでもありません。しかし、高度1万2000メートルの上空から俯瞰すれば、人間に代わってAIが選択する未来へと向かっていることが分かるでしょう。私たちは立ち止まり、自身に問いかけねばなりません。こういったシステムが、私たちがまったく知らない何かを支持して、人間の戦略を無視するようになったら何が起こるのでしょうか。
——政治や経済の動向はどうでしょう？最大の懸念点を教えて下さい。
米国では、妨げられることなくアイデアを自由に広げられます。こういった状況下で、シリコンバレーは設立されました。シリコンバレーは競争とイノベーションを生み出し、そのおかげで今や、多くのテクノロジーの中でも、AIがとりわけ身近にあるのです。
しかしながら、悲しいことに米国は、先見の明のなさに苦しんでいます。連邦政府は、AIや国民の長期的な未来のために壮大な戦略を立てるどころか、科学や技術研究から資金を引き揚げています。したがって、資金は民間から募らなければなりません。しかし、投資家は見返りを求めます。それが問題なのです。基礎技術 …