在谷歌自動駕駛汽車項目進行的早期，該公司員工（你可以稱他們為beta測試人員）被允許開著配備自動駕駛技術的汽車回家。
該項目的領導者們發現，同伴們如此迅速地過度信任了這項還處於萌芽階段的技術——他們選擇放鬆注意力，並盯著手機，而不是觀察前方的道路。
“我們的發現相當可怕。”Waymo的前首席執行官約翰·克拉弗西克（John Krafcik）回憶起2017年的測試時說。“他們已經失去了觀察周圍環境的意識。”Waymo是該項目的商業化後續。
Waymo前首席執行官約翰·克拉弗西克▼
一個測試者在方向盤後面打瞌睡，這讓谷歌官員感到不安，他們放棄了對這種涉及人機結合的自動駕駛技術的追求，轉而採用一種不讓人類參與駕駛的自動駕駛路線。
其他公司，比如特斯拉，仍然看好人機共存，而對於將自動化引入汽車的同時仍需要人類承擔操作責任的擔憂，幾乎沒有消除。
特斯拉在2014年推出了Autopilot駕駛員輔助系統的硬件，並在2015年通過OTA升級啟用了這一功能。2021年，這家汽車製造商以同樣的方式發布了其“完全自動駕駛”（Full Self-Driving）系統。
2021年10月下旬，該公司的市值超過了1萬億美元，這在很大程度上要歸功於這些功能，這兩個功能在該公司狂熱的車主中激發了相當大的熱情。特斯拉在財務上的成功，讓行業專家（至少在某些方面）懷疑Waymo是否做出了錯誤的決定。
然而，從安全的角度來看，擔憂仍在增加。
自動化自滿
美國國家交通安全委員會（NTSB）調查了多起涉及Autopilot的致命事故，並創造了“自動化自滿”（automation complacency）這個詞，來描述人類駕駛員過於信任駕駛輔助系統（並非自動駕駛系統）的行為。
美國國家公路交通安全管理局（NHTSA）的聯邦調查人員在2021年的大部分時間裡對Autopilot和高級駕駛輔助系統進行了進一步調查。
2021年4月，該機構的撞車事故特別調查小組開始調查五年間發生的39起事故，這些事故造成了12人死亡，其中33起事故涉及特斯拉汽車。
最近，NHTSA開始對12起事故展開更嚴格的調查，在這些事故中，啟動了Autopilot系統的特斯拉汽車撞上了停放的急救車輛。
2021年9月，特斯拉對其Autopilot軟件進行了OTA升級，而現在監管機構想知道，這家汽車製造商為何進行了升級，卻沒有發起召回。
亞利桑那州立大學社會創新未來學院教授安德魯·梅納德（Andrew Maynard）表示，監管機構剛剛才開始考慮軟件定義汽車的安全影響，這本身就是個問題。
“如果一家製造商說，‘我們推出了一種新型制動系統，我們不太確定它是否會起作用，但我們會把它放在一些汽車上，看看會發生什麼，’沒有人會認為這是可以接受的。”他說，“從監管角度來看，這是完全不可接受的。那麼為什麼軟件可以這樣做，而硬件卻不行呢？”
注意力不集中
在駕駛輔助系統方面，這是幾個沒有明確答案的挑戰之一，因為專家們認為駕駛輔助功能（而不是自動駕駛系統）至少在未來十年將成為主導技術，至少在傳統車主購買和維護的車輛中是如此。
其他挑戰同樣是根本性的。人類很難監控大多數時候運行良好的自動化系統——這不僅是Waymo在十年前學到的教訓，而且從航空到核能等各行各業都明白這一點。
麻省理工學院研究人員9月份發表的一項研究強調了這一點。
他們發現，當啟用Autopilot時，特斯拉司機眼睛偏離道路的頻率更高、時間更長。對其他汽車製造商駕駛輔助系統的進一步研究正在進行中。
如果系統引起了注意力不集中，它們會被認為是安全的嗎？包括通用汽車在內的一些汽車製造商正在尋求和推廣駕駛輔助技術，允許駕駛員將手從方向盤上移開。
卡內基梅隆大學專門研究嵌入式安全系統的教授菲爾·庫普曼（Phil Koopman）說：“ADAS安全的問題在於，你是否正在構建一個非超人司機也能安全操作的系統？”
“我們告訴他們不要睡著，但我們知道事實並非如此。你不能忽視可預測的人類反應。”
隨著駕駛輔助系統在汽車行業的普及，了解駕駛員的狀態以及他們的反應準備，將比以往任何時候都更加重要。
監測司機
在多次調查與自動駕駛相關的致命事故後，NTSB發現特斯拉對駕駛員行為的監控能力不足。
該委員會的建議包括，汽車製造商、標準機構和NHTSA都應該開發更好的應用程序和規則，以監測人類駕駛員的狀態。
2021年4月，行業組織汽車創新聯盟概述了一套安全原則，以應對人們對駕駛員監控系統日益增長的需求。值得注意的是，特斯拉並不是這個行業組織的成員。
但這些自願原則並沒有與安裝駕駛輔助系統的棘手問題發生衝突。他們只是說，例如，應該“評估”可預見的系統濫用。
NTSB的報告明確指出，特斯拉通過監測方向盤扭矩來監控駕駛員參與度的方法是不夠的，該聯盟只是表示，應該“考慮”基於攝像頭的座艙系統——許多駕駛輔助系統的供應商都喜歡這種系統。
也許，與駕駛員監控技術的萌芽狀態相比，這些原則的中庸性質是一個較小的問題。內視攝像頭系統可以確保駕駛員的頭部朝向前方的道路，更好的系統甚至可以透過太陽鏡跟蹤司機的眼神。
然而，在駕駛員注意力已經偏離，或者在他們需要糾誤時，車載報警器才向發出鳴叫，不一定是最有效的。
“預測是預防的關鍵。”以色列初創公司Adam CogTec的聯合創始人兼現任董事長埃雷茲·阿盧夫（Erez Aluf）說。該公司致力於開發一種技術，可以衡量司機的認知能力，並有助於提高人類的表現。
更好的決策
從這個意義上說，駕駛輔助系統不僅監控司機，還是一種駕駛員管理技術，試圖促進人與機器之間的合作關系。“這不是一個或另一個，”阿盧夫說，“而是一加一。”
當汽車不僅了解司機是否在盯著前方的道路，還了解司機在駕駛工作中的參與程度，它就能更好地決定何時交出控制權或保持控制權。
信任是這種微妙合作的核心。德國亞琛工業大學的人類系統集成教授弗蘭克·弗萊米施（Frank Flemisch）將其比喻為騎馬者隨著時間的推移，與他們的動物共同學習的一種直覺平衡。
但是，如果說機器駕駛員和人類駕駛員之間需要相互信任，那麼在更廣泛的層面上，駕駛員、大肆宣傳自動化技術前景的汽車製造商、獨立的第三方（如學術界和保險公司）以及監管機構之間，也需要這種信任。
建立這種信任，不僅僅要在事故發生時承擔責任，還要確保每個利益相關者以透明和負責任的方式，開發和部署技術。
亞利桑那州立大學教授梅納德說：“在一個更好的社會中，這個鏈條上的每個人，無論是特斯拉的首席執行官、製造產品的工程師，還是做決定的其他人，他們都有社會責任創新的心態。”
“在這種模式下，他們會不斷問自己，‘這樣做合適嗎？’如果他們這麼做了，我想事情就會不同了。”
在谷歌自動駕駛汽車項目進行的早期，該公司員工（你可以稱他們為beta測試人員）被允許開著配備自動駕駛技術的汽車回家。
該項目的領導者們發現，同伴們如此迅速地過度信任了這項還處於萌芽階段的技術——他們選擇放鬆注意力，並盯著手機，而不是觀察前方的道路。
“我們的發現相當可怕。”Waymo的前首席執行官約翰·克拉弗西克（John Krafcik）回憶起2017年的測試時說。“他們已經失去了觀察周圍環境的意識。”Waymo是該項目的商業化後續。
Waymo前首席執行官約翰·克拉弗西克▼
一個測試者在方向盤後面打瞌睡，這讓谷歌官員感到不安，他們放棄了對這種涉及人機結合的自動駕駛技術的追求，轉而採用一種不讓人類參與駕駛的自動駕駛路線。
其他公司，比如特斯拉，仍然看好人機共存，而對於將自動化引入汽車的同時仍需要人類承擔操作責任的擔憂，幾乎沒有消除。
特斯拉在2014年推出了Autopilot駕駛員輔助系統的硬件，並在2015年通過OTA升級啟用了這一功能。2021年，這家汽車製造商以同樣的方式發布了其“完全自動駕駛”（Full Self-Driving）系統。
2021年10月下旬，該公司的市值超過了1萬億美元，這在很大程度上要歸功於這些功能，這兩個功能在該公司狂熱的車主中激發了相當大的熱情。特斯拉在財務上的成功，讓行業專家（至少在某些方面）懷疑Waymo是否做出了錯誤的決定。
然而，從安全的角度來看，擔憂仍在增加。
自動化自滿
美國國家交通安全委員會（NTSB）調查了多起涉及Autopilot的致命事故，並創造了“自動化自滿”（automation complacency）這個詞，來描述人類駕駛員過於信任駕駛輔助系統（並非自動駕駛系統）的行為。
美國國家公路交通安全管理局（NHTSA）的聯邦調查人員在2021年的大部分時間裡對Autopilot和高級駕駛輔助系統進行了進一步調查。
2021年4月，該機構的撞車事故特別調查小組開始調查五年間發生的39起事故，這些事故造成了12人死亡，其中33起事故涉及特斯拉汽車。
最近，NHTSA開始對12起事故展開更嚴格的調查，在這些事故中，啟動了Autopilot系統的特斯拉汽車撞上了停放的急救車輛。
2021年9月，特斯拉對其Autopilot軟件進行了OTA升級，而現在監管機構想知道，這家汽車製造商為何進行了升級，卻沒有發起召回。
亞利桑那州立大學社會創新未來學院教授安德魯·梅納德（Andrew Maynard）表示，監管機構剛剛才開始考慮軟件定義汽車的安全影響，這本身就是個問題。
“如果一家製造商說，‘我們推出了一種新型制動系統，我們不太確定它是否會起作用，但我們會把它放在一些汽車上，看看會發生什麼，’沒有人會認為這是可以接受的。”他說，“從監管角度來看，這是完全不可接受的。那麼為什麼軟件可以這樣做，而硬件卻不行呢？”
注意力不集中
在駕駛輔助系統方面，這是幾個沒有明確答案的挑戰之一，因為專家們認為駕駛輔助功能（而不是自動駕駛系統）至少在未來十年將成為主導技術，至少在傳統車主購買和維護的車輛中是如此。
其他挑戰同樣是根本性的。人類很難監控大多數時候運行良好的自動化系統——這不僅是Waymo在十年前學到的教訓，而且從航空到核能等各行各業都明白這一點。
麻省理工學院研究人員9月份發表的一項研究強調了這一點。
他們發現，當啟用Autopilot時，特斯拉司機眼睛偏離道路的頻率更高、時間更長。對其他汽車製造商駕駛輔助系統的進一步研究正在進行中。
如果系統引起了注意力不集中，它們會被認為是安全的嗎？包括通用汽車在內的一些汽車製造商正在尋求和推廣駕駛輔助技術，允許駕駛員將手從方向盤上移開。
卡內基梅隆大學專門研究嵌入式安全系統的教授菲爾·庫普曼（Phil Koopman）說：“ADAS安全的問題在於，你是否正在構建一個非超人司機也能安全操作的系統？”
“我們告訴他們不要睡著，但我們知道事實並非如此。你不能忽視可預測的人類反應。”
隨著駕駛輔助系統在汽車行業的普及，了解駕駛員的狀態以及他們的反應準備，將比以往任何時候都更加重要。
監測司機
在多次調查與自動駕駛相關的致命事故後，NTSB發現特斯拉對駕駛員行為的監控能力不足。
該委員會的建議包括，汽車製造商、標準機構和NHTSA都應該開發更好的應用程序和規則，以監測人類駕駛員的狀態。
2021年4月，行業組織汽車創新聯盟概述了一套安全原則，以應對人們對駕駛員監控系統日益增長的需求。值得注意的是，特斯拉並不是這個行業組織的成員。
但這些自願原則並沒有與安裝駕駛輔助系統的棘手問題發生衝突。他們只是說，例如，應該“評估”可預見的系統濫用。
NTSB的報告明確指出，特斯拉通過監測方向盤扭矩來監控駕駛員參與度的方法是不夠的，該聯盟只是表示，應該“考慮”基於攝像頭的座艙系統——許多駕駛輔助系統的供應商都喜歡這種系統。
也許，與駕駛員監控技術的萌芽狀態相比，這些原則的中庸性質是一個較小的問題。內視攝像頭系統可以確保駕駛員的頭部朝向前方的道路，更好的系統甚至可以透過太陽鏡跟蹤司機的眼神。
然而，在駕駛員注意力已經偏離，或者在他們需要糾誤時，車載報警器才向發出鳴叫，不一定是最有效的。
“預測是預防的關鍵。”以色列初創公司Adam CogTec的聯合創始人兼現任董事長埃雷茲·阿盧夫（Erez Aluf）說。該公司致力於開發一種技術，可以衡量司機的認知能力，並有助於提高人類的表現。
更好的決策
從這個意義上說，駕駛輔助系統不僅監控司機，還是一種駕駛員管理技術，試圖促進人與機器之間的合作關系。“這不是一個或另一個，”阿盧夫說，“而是一加一。”
當汽車不僅了解司機是否在盯著前方的道路，還了解司機在駕駛工作中的參與程度，它就能更好地決定何時交出控制權或保持控制權。
信任是這種微妙合作的核心。德國亞琛工業大學的人類系統集成教授弗蘭克·弗萊米施（Frank Flemisch）將其比喻為騎馬者隨著時間的推移，與他們的動物共同學習的一種直覺平衡。
但是，如果說機器駕駛員和人類駕駛員之間需要相互信任，那麼在更廣泛的層面上，駕駛員、大肆宣傳自動化技術前景的汽車製造商、獨立的第三方（如學術界和保險公司）以及監管機構之間，也需要這種信任。
建立這種信任，不僅僅要在事故發生時承擔責任，還要確保每個利益相關者以透明和負責任的方式，開發和部署技術。
亞利桑那州立大學教授梅納德說：“在一個更好的社會中，這個鏈條上的每個人，無論是特斯拉的首席執行官、製造產品的工程師，還是做決定的其他人，他們都有社會責任創新的心態。”
“在這種模式下，他們會不斷問自己，‘這樣做合適嗎？’如果他們這麼做了，我想事情就會不同了。”