自律運転の急速な進歩によって、未来の車は、たとえば、進行方向にいる大勢の人に重傷を負わせるくらいなら、急ハンドルを切って自損事故を起こすべきか、といった倫理上の究極の選択をすることになると懸念されている。
国家運輸安全委員会（NTSB）のクリストファー・ハート委員長もそのひとりだ。ハート委員長は、連邦規制は、自律自動車の信頼性に関する安全基準はもちろん、自律自動車の基本的なモラルを決める必要があるだろうとMIT Technology Reviewに語った。
ハート委員長は、米国国家道路交通安全局（NHTSA）は、自律自動車メーカーが、車両の極めて重要な構成部品の設計に、航空機メーカーが取り入れているやり方に似たフェイルセーフの仕組みを採用するよう要求する可能性が高いだろうという。
「政府が乗り出せば、『君たちは、この問題が起きる可能性がX分の1よりも低いと示さなきゃならん。でなきゃ、その問題で人が死なずに済む安全対策を示してもらう必要がある』ということになります」
ハート委員長はまた、自動車が人身事故を起こしそうなとき、ソフトウェアの通常の判断を覆す倫理的プログラムコードには連邦政府の規制が必要とも述べた。ハート委員長は、対向車線から向かってくる制御の利かないトラックと衝突しそうなときや、歩道に乗り上げて歩行者をはね殺してしまいそうな場合に自律自動車が直面する判断を例にあげた。
「私の考えでは、これは、連邦政府が取り組むべきです。そのような種類の倫理的選択は避けられないでしょう」
NHTSAはこの8カ月間、どのように無人乗用車を規制すべきか検討しており、近日中に指針を発表することになっている。NHTSAは自動運転に関する倫理的な懸念について見解を示していない。
自律自動車に関する規制はカリフォルニア州などにすでにあり、アルファベット（グーグル）やウーバーなどの企業による試作車両を対象にしている。カリフォルニア州が義務付けているのは、安全のためにドライバーは常に機械から運転を引き継ぐ準備を整えておくこと、人間が介入すべきだった事故の詳細を企業が州に報告することを求めている。
ワシントン大学のライアン・カロ助教授（ロボット法）は、従来の理論的な倫理的考察を実践的な規則やシステム・デザインに落とし込めるのか懐疑的だ。カロ助教授は、人が実生活のさまざまな場面で理解するさまざまな要因を理解できるほど自律自動車が高度になっているとは思っていない。
カロ助教授は、自動運転が多くの事故を防げるとしても、一方では人間なら犯さないような、致命的な大失敗をときどき犯すかもしれない自動車を本当に普及させてよいのかどうかこそが真の問題だと考えている。
「もし自律自動車が、買い物カートと乳母車に同時に出くわしたとき、食料品は人よりも重要ではないと自律自動車は道徳的に判断できないでしょう。しかし、食料品がつねに人間の命より軽いかというと、（救援物資として）何万人もの人を救う場合もあるのです」
ダイムラー・ベンツの非営利部門で倫理と自動運転を研究しているカリフォルニア・ポリテクニック州立大学（カリフォルニア州サンルイスオビスポ）のパトリック・リン教授（哲学）は、自動車に倫理的な判断をさせるアイデアを性急に不可能と判断することはない、という。センサーや人工知能、顔認識ソフトの進歩によって、自動車がひとりの命を救い、同時に別の人を犠牲にする判断ができるようになる可能性が高いだろう、とリン教授はいう。
「実際に販売される前に、私たちが問題を前もって予測し対処しようとするほうがよいのです。それこそが、企業を崩壊させたり、業界に巨大な汚点を残したりしかねない訴訟に対応することになるのです」
倫理や安全面に関する連邦基準は、無人乗用車がどう判断するのかについて、ある程度の透明性をもたらすだろう。リン教授は、自動車メーカーは概して、自動車のソフトウェアに関する内部構造を、ハッカーや競合に知られないように秘密にしたがるという。
「自動車メーカーは、プログラミングや衝突時の設計思想を明かさないことで有名です」