おそらく次のような話を、いろいろな脚色を交えて聞いたことがあるだろう。
1. コンピューターが自動車の運転や音声認識などのタスクを驚くほどうまくこなせるようになり、社会の許容範囲を超えるほど多くの仕事が自動化されるかもしれない。
2. コンピューターのスキルの改善が積み重なり、コンピューターが人間よりずっと賢くなる。こうした「超知性」によって多くの場で人間の労働力が不要になる。実際、偶然にせよ人為的にせよ、人間の労働力が完全には不要にならないことを祈った方がよいだろう。
なかなか際どい話だ。最初のシナリオはすでに現実化しつつある。しかし、それが必ずしも2番目のシナリオにつながるわけではない。2番目のシナリオは、知識を持ち、よく考えている人の意見ではあるが、妄想的であり、非常に多くの推測に基づいている。せいぜい、今日のレベルの自動化が及ぼす影響の責任をもっと取るべきであり、テクノロジー関連産業における権力の集中に対処すべきだということを、言葉を変えてけん制しているにすぎない。
本当は何が起こっているかを知るためには、人工知能（AI）においてこれまでに何が達成され、何が解決からほど遠いかを明らかにしなければならない。
常識
ここ数年のコンピューター界で最も驚くべき進歩は、自動運転車、画像と音声を正確に認識するコンピューター、そして囲碁のような複雑なゲームで最高の棋士に勝てるコンピューターだ。どれもAIの「適応機械学習」という一分野の大躍進の賜物だ。トロント大学のコンピューター科学者であるヘクター・レベック教授は、自身の著作『Common Sense, the Turing Test, and the Quest for Real AI（常識、チューリング・テスト、本当のAIの探求）』（2017年、未邦訳）の中で、適応機械学習の背後にある考えは「コンピューターに膨大な量のデータを入力して訓練することで、知的な振る舞いをするように学習させることだ」と述べている。
コンピューターが物体を検知し、多言語間の翻訳をし、さらにはコンピューター・プログラムの例を入力しておけば、事前に人間がプログラムしなくてもプログラムまで作ってくれる。こんなことは10年ほど前まではまったく不可能なことだった。訓練用のデジタルデータが不十分だったし、もし十分にあったとしても、それを処理するコンピューターの能力も足りなかった。コンピューターがデータ中のパターンを検知すると、ソフトウェアのアルゴリズムがそのパターンから推論を引き出し、それに基づいて決断を下す。これこそが、自動運転車がいくつものセンサーからの入力情報を分析したり、コンピューターが数百万もの碁の棋譜のすべての動きを処理したりする際にしていることだ。
コンピューターは超人的な量のデータを処理できるので、ほとんどの状況で人間以上に安全に車を運転したり、囲碁のチャンピオンたちを打ち負かしたりできることは理解できる。高いデータ処理能力のおかげで、ゲノムや他の数十の生物学的変数から患者のガンの治癒可能性が最も高い薬との関連性を見つける、といった人間にはまったく不可能な作業にはこれまで以上に優れた能力を示している。
たとえそうであっても、これらは真のAIができるであろうことのほんの一部分でしかない。マサチューセッツ工科大学（MIT）のパトリック・ウィンストン教授（AIおよびコンピューター・サイエンス）は、ここ数年間の進歩はAIの分野ではなく、計算統計学の分野で起こっていると言った方が分かりやすいと語る。計算統計学の一流の研究者でフェイスブックのAI部門責任者であるヤン・レクンは、2017年11月にMITで開かれた「仕事の未来（Future of Work）」カンファレンスで、コンピューターはまだ「知性の本質」から遠く離れていると語った。知性の本質とは、物理的な世界を十分に理解し、その基本的状況について予測を行なう能力、つまりある事を観察したら他のどんな事が真になるかを背景知識から理解することである。別の言葉で言えば、コンピューターには常識がないのだ。
へ理屈を言うわけではないが、「知的な振る舞い」をするコンピューターは、たとえどんなに有益であっても、真に知性のあるコンピューターとは大きな隔たりがある。よろしい、知性の定義が曖昧であることは認めよう。コンピューターの処理能力が上がるにつれて目標を上方修正して、知性とは「コンピューターが今だに持っていない何か」だと再定義したくなるものだ。
しかし、たとえそう再定義したとしても、囲碁の試合に勝ったコンピューターは、データに含まれるパターンを分析しているだけだ。コンピューターには囲碁をしているのかゴルフをしているかという区別はない。つまり、たとえば碁盤の半分以上がテーブルからはみ出て落ちそうだったらどうなるだろうか。アマゾンのAIアシスタント「アレクサ（Alexa）」にレストランの名前を告げて席を予約するように頼むと、機械学習によって非常に正確に作成された音声認識システムが、あなたに代わってオープン・テーブル（Open Table＝レストランのオンライン予約をするサイト）の予約システムに入力をしてくれる。しかしアレクサはレストランがどんなものなのか知らないし、食べるとはどういうことなのかも知らない。もしアレクサに「メイヨー・クリニック総合病院に午後6時に2人で席を予約してください」と頼めば、予約を入れようとするだろう。
60年前にジョン・マッカーシーやマービン・ミンスキーといったAIを最初に考案した人々が意図したように、コンピューターに「考える」力を与えることは可能だろうか？ レベック教授の説明によれば、そのためには常識と世界についての背景知識を柔軟に使える能力をコンピューターに植え付ける必要がある。それは可能かもしれないが、実現方法が明確ではない。こうした研究は、近年の機械学習のブレークスルーとは相当に隔たりがあり、「GOFAI（good old-fashioned artificial intelligence＝古き良きAI）」とも呼ばれる。
コンピューターが全知となることが心配なら、レベック教授がGOFAIについて書いた文章を読むとよいだろう。コンピューター科学者は依然として、マッカーシーとミンスキーを魅了した基本的な問題に答えられていないのだ。コンピューターは、どうすればそこにある事実だけでなく、明示 …