ロバートのような機械は、サイエンス・フィクションの王道だ。ハードウェアやソフトウェアを用いて意識を再現させたロボットという概念は、かなり昔から存在し、ありふれている。
もちろん、ロバートは存在しない。そして今後、登場することはないかもしれない。確かに、世界を主観的に体験し自分自身を一人称的に見られる機械という概念は、人工知能（AI）研究の本流に逆らっている。まだ完全には解明されていない意識や自己の本質についての問題とも衝突する。ロバートの存在を想像するだけでも、人間が答えを出せない可能性のある深刻な倫理問題が浮かび上がる。ロバートにはどんな権利があり、その権利をどう守ればいいだろうか？意識を持つ機械は、まだ架空のものにすぎないが、人間は意識を持つ機械の登場という仮説に備えなければならない。
シアトルにあるアレン脳科学研究所（Allen Institute for Brain Science）で意識の研究をしている神経科学者のクリストフ・コッホ博士はこう述べている。「人間によって設計・進化させられた人工物に、主観的な感情が存在することを禁じる基本法や原則は、この世界に存在しないことを私たちは知っています」。
私は10代後半の頃、人をゾンビにして楽しんでいた。話す相手の目を見て、瞳孔が黒い点ではなく、穴になっている事実に執着した。そう考えると、目に見えるものと幻影が切り替わるように、一瞬にしてどちらかわからなくなり混乱した。目は魂への窓ではなく、空洞のボールになった。魔法は消え、私は相手の口がロボットのように開いたり閉じたりするのを見て、一種の精神的なめまいを感じた。
心を持たない自動人形のイメージは長くは続かなかった。だが、他人の頭の中で起こっていることには、永遠に手が届かないという事実を思い知らされた。他の人も私と同じように裏では意識が働いていて、その目で外を見て希望を感じたり、疲れたりしているのだと、どんなに強く思っても、それはイメージでしかない。それ以外はすべて憶測の域を出ないのだ。
アラン・チューリングは、このことを理解していた。数学者でありコンピューター科学者でもあったチューリングは、「機械に思考能力があるか」と問いかけると、外見上の思考の兆候、つまり知能と呼ばれるものにのみ注目した。チューリングは、機械が人間としてゲームに勝つことで答えを出す提案をした。知性を感じさせることに成功した機械は、知性を持っていると言えるだろう。チューリングにとっては、外観が唯一の尺度だった。
だが、誰もが思考の目に見えない部分、いわゆる意識と呼ばれる、何かが考え——一般に言う思考——を持つという経験の最小単位を無視しようとしたわけではなかった。チューリングが「模倣ゲーム（Imitation Game）」を発表する2年前の1948年、脳外科医のパイオニアであるジェフリー・ジェファーソンは、イングランド王立外科医師会（Royal College of Surgeons of England）において、新聞で「電子頭脳（electronic brain）」として告知されていた一部屋サイズのコンピューター「マンチェスター・マーク1（Manchester Mark 1）」に関する有名なスピーチを披露した。ジェファーションの設定したハードルは、チューリングのそれよりはるかに高かった。「記号が偶然に降ってくるのではなく、考えや感情に導かれて、機械が14行詩を書いたり、協奏曲を作曲したりできるようになるまでは、機械が（人間の）脳に匹敵するとはいえない。つまり、書くだけではなく、機械自身が書いたことを理解していなければならない」。
ジェファーソンは、機械には主観的な経験や自己認識という意味での意識がないことを理由に、思考する機械の可能性を否定した（「成功すれば喜び、真空管が故障すれば悲しむ（pleasure at its successes, grief when its valves fuse）」）。だが、70年がすぎ、私たちは今、ジェファーソンの功績ではなく、チューリングの功績の恩恵を受けている。知性を宿す機械については日常的に議論されているが、ほとんどの人は、そういった機械は心を持たないと意見が一致するだろう。哲学者のいう「ゾンビ」のように（私が人間観察をしていたときに人がゾンビだと想像していたように）、「内」では何も起こっていないのに、物体が知的に振る舞うことは論理的に可能だ。
だが、知性と意識は異なる。知性は「活動」だが、意識は「存在」に関係している。AIの歴史では、知性に焦点を当て、意識を無視してきた。ロバートが意識を持つAIだとしても、どうやってそれを知ることができるのだろう？その答えは、人間の脳と心の仕組みに関する最大の謎と深い関係がある。
ロバートの見かけ上の意識を検証する上で問題になる点の一つは、「意識」とは何を意味するのか、私たちにはまだよくわかっていないということだ。神経科学の新理論では、注意や記憶、問題解決などが「機能的」意識の形態としてまとめられている。言い換えれば、起きている間の人間の行動を脳がどう実行するかということだ。
だが、意識にはまだ謎の一面がある。一人称の主観的な経験、つまり世界に存在しているという感覚は、「現象的」な意識として知られている。この場合、喜びや痛みなどの感覚、恐怖や怒り、喜びなどの感情から、犬の鳴き声を聞いたり、塩味のプレッツェルを味わったり、青いドアを見たりする独特の個人的な体験まで、あらゆるものを分類できる。
人によっては、これらの体験を純粋に科学的な説明に落とし込めない。プレッツェルを味わう感覚を脳がどのように作り出すのかをすべて説明したとしても、そのプレッツェルの味が実際にどのようなものなのかわからないと、言われてしまうだろう。心を研究する最も影響力のある哲学者の一人であるニューヨーク大学哲学科のデビッド・チャーマーズ教授は、これを「難しい問題」と呼んでいる。
チャーマーズ教授のような哲学者は、意識を現在の科学で説 …