像無人駕駛汽車一樣，自動駕駛系統可以完成以前只能由人類完成的任務。卡內基梅隆大學(Carnegie Mellon University)的人工智能倫理專家戴維?丹克斯(David Danks)和亞歷克斯?約翰?倫敦(Alex John London)在一篇最新的IEEE智能系統專家意見文章中指出，目前的安全法規沒有針對這些系統進行規劃，因此在確保自動系統安全可靠地運行方面裝備不足。

倫敦大學迪特里希人文與社會科學學院哲學教授、道德與政策中心主任說:“目前，我們通過控制車輛的各種機械系統的性能，通過發放司機執照來確保道路安全。”“當汽車自動駕駛時，我們沒有可比的系統來評估其自動駕駛系統的安全性和可靠性。”

丹克斯和倫敦指出，美國交通部(Department of Transportation)最近試圖為無人駕駛汽車制定安全規定，這是傳統指導方針沒有充分測試和監控自動駕駛系統的新功能的一個例子。相反，他們建議建立一個分階段的、動態的系統，類似于藥品和醫療設備的監管和審批過程，包括一個強有力的審批后監控系統。

“自動駕駛汽車和自動系統正在社會的各個角落迅速普及，但它們的成功應用取決于我們能否信任和理解它們，”l l瑟斯通(L.L. Thurstone)哲學和心理學教授、哲學系系主任丹克斯(Danks)說。“作為一個社會，我們需要找到新的方式來監控和指導這些自主系統的開發和實施。”

丹克斯和倫敦提出的分階段過程將從“臨床前試驗”開始，即在模擬環境中進行測試，比如在不同的地形和氣候中駕駛自動駕駛汽車。這將提供有關自主系統如何在廣泛的上下文中做出決策的信息，以便我們能夠了解它們在未來的新情況下可能會如何行動。

可接受的性能將允許系統進入“人類”的研究，通過一個有訓練的人類“副駕駛員”的現實環境的有限介紹。在這些目標環境中成功的試驗將導致監視的、基于許可證的測試，并隨著性能目標的實現進一步放松限制。

Danks和London建議，這個監管系統應該像美國食品和藥物管理局(Food and Drug Administration，簡稱fda)管理藥品審批流程那樣進行建模和管理。

“自動駕駛汽車有拯救生命和提高經濟生產力的潛力。但這些好處不會實現，除非公眾有可靠的保證，這樣的系統是安全和可靠的，”倫敦說。