第1世代の半自律自動車による高速道路の運転は驚くほど上手だ。しかし、半自律自動車のせいでドライバーが注意散漫になれば、避けられるはずの死亡事故数が増えてしまうかもしれない。
米国国家道路交通安全局（NHTSA）の最近の統計によれば、2015年の米国の交通事故による死者は3万5092人で、2014年の3万2744人から7.2％増え、約50年間で最大の前年比増加率になった。全米安全評議会（NSC）のデビー・ハースマン会長（国家運輸安全委員会元委員長）がラジオ局のNPRで語った内容によれば、この傾向は2016年も続いているようだ。
死者の絶対数が増えた理由は、道路を走る車の数が増えた（総走行距離が3.5％上がった）ことで部分的に説明できる。しかしNHTSAの統計値から、携帯電話でメールをしたり、カーオーディオを操作したりといった、ながら運転が原因の事故の死者数 は前年比で8.8％増え、3197人から3477人になったこともわかる。
無人乗用車を開発する企業の多くは、安全性を最大の意義に掲げており、自律型移動手段によって路上から人間のミスがなくなる、といっている。オバマ大統領さえ、ピッツバーグポストガゼット紙の自律型移動手段に関する政府の新ガイドラインの記事で、自律自動車により「運転がより安全でとっつきやすくなり、毎年何万人もの命を救う可能性がある」と書いている。
しかし今のところ、自律自動車にあるのは部分的自律性に過ぎない。自動車が自信を持って決断できないときは、ドライバーにハンドルを操作してもらうよう警告が出るのだ。もしドライバーが注意散漫で、自律システムが適切に働かない場合、あるいは人間がドライバー補助性能を過信して警告や道路状況を無視すると、自動車はもう安全とはいえなくなる。
今年はじめ、自律運転中のテスラ車のドライバーが亡くなった事故では、自動車の半自律ドライバー補助機能「オートパイロット」が、対向車のセミトレーラーを検知できなかった。NHTSAによる事故調査の最終報告はまだ公表されていないが、自動車のデータから、ドライバーが衝突前にブレーキを踏んでいないことはわかっており、ドライバーは道路を見ていなかった可能性が高い。
基本的な運転操作をしてくれる自動車に乗れば、すぐに気が散ってしまうのは明らかだ。ミシガン大学交通研究所（UMTRI）のブランドン・ショートル（プロジェクト・マネージャー）は、ドライバーが運転を引き継ぐよう注意を促す現在のシステムは不十分かもしれない、という。もし半自律システムが改善されなければ、実際に、不注意運転による死亡事故の割合は高まる可能性さえあるというのだ。
「自動車からドライバーへの引き継ぎが適切かつ安全になされることが、決定的に重要です。さもなければ、このシステムで得られる安全性は、引き継ぎ中のリスク増加によって相殺されるかもしれません。車内で他の活動に没頭しているときに、状況認識を取り戻すのは困難です。したがって、ドライバーが反応するまでに十分な時間がない場合、あるいはシステムが単純に故障した場合には、死亡率は改善されないか、システムが完全になるまでは悪化する可能性さえあるでしょう」
テスラは現在、ドライバーが長期間ハンドルから手を離せないよう、「オートパイロット」のソフトウェアを更新する計画がある。3回警告されると、自動車を止めてエンジンをかけ直すまで、ドライバーはオートパイロット機能が使えなくなる。日産自動車が最近発表した 「プロパイロット」システムも同じことをする。一方、ゼネラルモーターズ（GM）が開発中のシステムでは、 アイトラッキング（視線追跡）ソフトウェアにより、ドライバーの注意が道路からそれないようにしている。
より長期的に多くの関係者が目指すのは、車が完全に自律的になり、人間に制御権を引き渡す必要がなくなることだ。このような 乗り物は「車内に追加され、増加傾向にある、気を散らす娯楽物に対処する、最も合理的な方法だと多くの人は考えています」とショートルはいう。
「単純にドライバーを、状況確認、選択肢、意志決定、行動という運転のループから完全に外してしまうのです」