コンピューターはこの10年足らず間に、病気の診断や言語の翻訳、音声の文字起こしなどに、極めて優れた能力を発揮するようになった。複雑な戦略ゲームで人間を出し抜いたり、写真のような画像を作ったり、電子メールに有効な返答を提案したりもする。
だが、こうしたすばらしい成果とは裏腹に、人工知能（AI）には明白な弱点がある。
機械学習システムは、これまで見たことのない状況に惑わされたり、混乱したりすることがあるのだ。自律運転車は、人間が簡単に対処できるような状況に戸惑う。（例えば猫の識別のような）1つのタスクを実行するために、苦労してAIを訓練しても、別のタスク（犬の識別）を実行するには、もう一度訓練し直さなければならない。その過程で、元のタスクで習得した専門知識の一部を失ってしまう。コンピューター科学者たちは、この問題を「破滅的忘却」と呼ぶ。
こういった欠点は、AIシステムが因果関係を理解していないために引き起こされるという点で共通している。AIは、複数の事象と他の事象との関連は認識するが、直接どの事象が他の事象を引き起こしているかに関しては突き詰めない。雲があれば降水確率が上がることを知っていても、雲が雨を降らせることは知らない。
原因と結果の理解が、いわゆる「常識」の大きな側面だが、現時点でAIシステムは原因と結果を「理解できていません」というのは、エリアス・バレンボイム准教授だ。バレンボイム准教授は、新設のコロンビア大学人工知能因果推論研究所の所長として、この課題の解決を目指した研究の最前線にいる。
バレンボイム准教授は、因果関係に関する比較的新しい科学をAI研究に取り入れることを考えている。この理論の構築に大きく貢献したジュディア・パール教授は、チューリング賞受賞経験があり、バレンボイム准教授も師事していた。
バレンボイム准教授とパール教授がいうように、AIが相関関係（例えば、雲があると降水確率が上がるなど）を発見する能力は、因果推論の最も単純なレベルに過ぎないという。ここ10年のAIブームの牽引役は、深層学習として知られる技術で十分だった。深層学習では、身近な状況に関する大量のデータがあれば、非常に優れた予測を導き出せる。コンピューターは、ある症状を持つ患者が特定の病気である確率を導き出せるが、それは、同じ症状を持つ数千人、あるいは数百万人もの患者がその病気だったことを学習しているからだ。
だが、コンピューターが因果関係を見いだせるようにならなければ、AIの進歩が失速するというコンセンサスが高まっている。もし機械が物事にはつながりがあることを把握できれば、あらゆることを常に新たに学ぶ必要はなく、ある分野で学んだことを別の分野に応用できるかもしれない。そして、もし機械が常識を活用できるならば、間の抜けた判断が下されることがなくなり、もっと機械を信頼できるようになるだろう。
現在のAIには、与えられた行動から何が起こるのかを推測する能力しかない。チェスや囲碁のようなゲームを習得するために使われる強化学習では、システムが膨大な量の試行錯誤を繰り返し、勝つためにどんな動きをすればいいのかを認識する。だが、この手法は、より複雑な現実世界では機能しない。強化学習では、他のゲームをするための一般的な理解ですら習得できないのだ。
さらに高いレベルの因果思考とは、物事が起こった理由を導きだし、他の状況を仮定する「what-if型」の質問を投げかけられる能力だ。治験中の患者が死亡した場合、原因は治験薬にあるのか、それとも別の要因あるのか？ 学校のテストの成績が下がっている場合、最も改善できる政策は何だろうか？こういった思考は、現在のAIの能力をはるかに超えている。
奇跡を起こす
因果関係を推測できる能力をコンピューターに持たせる夢を抱いたバレンボイム准教授は、リオデジャネイロ連邦大学でコンピューター科学の修士号を取得し、2008年にブラジルから米国に渡って、コンピューター科学者であり統計学者でもあるジュディア・パール教授（UCLA）の下で研究する機会に飛びついた。あの因果推論の権威であるパール教授（83歳）の理論を用いれば、因果関係を理解するAIを作ることが難しい理由を説明できるはずだからだ。
経験を積んだ科学者でも、相関関係を因果関係と誤解したり、またその反対の誤った解釈をしたりしがちで、実際に因果関係がある場合でも断言するのを躊躇してしまう。例えば、1950年代には、数人の著名な統計学者が、たばこががんの原因かどうかを巡って混乱した。統計学者たちは、喫煙者と非喫煙者を無作為に抽出しなければ、ストレスや遺伝子などの未知の原因が、喫煙と肺がんの両方を引き起こす可能性を排除できないと主張した。
結局、喫煙ががんを引き起こすという事実関係が既定のものとして認められたが、そこまで時間をかける必要はなかった。以来、パール教授は他の統計学者とともに、因果関係を主張するにはどういった事実が必要かを特定する数 …