小米事故的提醒：自動化的盡頭不是無人化

無人化包括無人的操作環境，也包括有人但人處於撒手不管或者管不了的操作環境。

小米SU7事故很慘烈，三個女孩子在如花年華死於非命，非常可惜。人們都在談論如何吸取教訓，但關注點似乎集中在如何從技術上增加判讀前方路障的可靠性。這當然是需要的，但在大方向上誤入歧途了。

技術永遠在進步，問題也永遠在複雜化。單純依靠技術，只能跟在問題後面解決，永遠是被動的。需要解決的問題常常在於人。自動化程度越高，人的作用越重要。這似乎是反常識的，但這是工業自動化幾十年來最大的經驗教訓。

再先進的自動化系統也只能針對已知場景，意外場景的出現永遠是不滅的可能性。假設智駕能做到99.99%，萬分之一的故障率已經非常厲害了。但是僅僅上海一個城市，每天在路上跑的車輛至少幾百萬輛次，萬分之一的故障率意味着每天可能有幾百輛汽車因為智駕故障而發生事故，這是不可接受的高事故率。這還只是上海，放到全國，每天可能就智駕事故上萬了，這是絕對不可接受的高事故率。

另一方面，自動化程度越高，生產線強度越高，意外出現的幾率越少，但後果越大。大型化工廠、核電站的災難性事故很罕見，但博帕爾、深水地平線、切爾諾貝利、福島至今人們談虎色變。

自動化系統能對已知和常見的場景進行有效處理，但意外場景發生後，自動化系統首先要能正確識別已經超出自己的能力範圍，其次要為人工接管提供最有利的條件。需要以最符合人類思維和操作習慣的方法實現人工接管，而不是以自動化系統的設計便利出發，直接甩手。比如說，駕車人手動轉動方向盤就自動切除NOA，這是很自然的人工接管方式。但需要轉動多少才切除，這是一個問題。轉動量太小就切除的話，可能正常行駛中的抖動都會觸發誤動作；太大才切除的話，啟動死區太大，延誤人工接管。另設NOA用開關切換的話，動作明白無誤，但多一步步驟，緊急時可能忘記或者摸不到而誤事，不符合人工接管的便利性和直觀性要求。轉動方向盤和踩動剎車同時發生，人工接管的意圖就更加明確，這時可以不顧剎車和轉向死區，直接切除NOA而較小誤操作可能。特別大的震動可能依然會誤觸發，但震動那麼大，也不該再NOA了。

但在人工接管的情況下，自動化系統到底是徹底撒手，還是繼續輔助？輔助到什麼程度？這牽涉對小米事故里AEB作用的質疑，其實也是工業上自動化系統降級為人工控制時的常見問題。從人類操作習慣來說，“我只要你切除我要你切除的，其他的繼續保持自動控制”，否則一大堆控制動作統統需要人工接管，管不過來，尤其是在本來已經處於意外場景的手忙腳亂狀態下。問題是，系統如何判斷哪些是需要切除的，哪些是需要保留的？而且人工-自動混合控制比全自動控制更複雜，混合的方式有無窮無盡的組合，還像團隊協作時需要和一個摸不透在想什麼的人緊密配合一樣的問題，容易打架。

回到AEB，在理論上，AEB可以全時工作，無論NOA是否工作。但這要求前方探測高度可靠、精確，而且包羅萬象，而不是現在這樣在設計上就排除對水馬、動物、錐樁等的反應。而且不能依靠單一傳感器，否則單點故障造成AEB誤觸發，在高速公路上莫名其妙緊急剎車，危害極大。

很多人非常正確地指出：L2隻是輔助駕駛，不是自動駕駛。其實，即使到L3甚至更高，人的作用依然關鍵，實際上對人的要求更高了，而不是更低了。

高度自動化意味着兩件事：

1、操作人/駕車人對周圍的常見場景的觀察和反應鈍化了。一是忙着刷手機、聊天、睡覺而看不過來，二是反正有自動化系統照管着，不需要保持敏銳。

2、一旦進入意外場景，對人類的挑戰有兩部分：a）意識到自動化系統靠不住需要時間，b）連自動化系統也解決不了，一定是高挑戰場景，平時已經手生了，高挑戰場景幾乎必然手忙腳亂，或者坐以待斃。

難說小米事故的最後一秒鐘里，駕車的女孩是否有這樣的問題，但這個問題在工業上屢見不鮮，無數事故報告都指向同一個問題：操作工臨危慌亂，動作變形，加劇事故。

工業上痛定思痛，開始廣泛使用仿真系統訓練，作用有兩個：

1、在正常情況下，培養良好、規範、一致的操作動作

2、在意外情況下，培養辨明情況、正確反應的肌肉記憶

意外有非常規但計劃內的，如大型化工廠開停車，這是幾年一次的事情；還有徹底意外的，如大小過程事故，時不時可能發生，而且徹底不可預料。操作工在上崗前，需要幾個月的仿真培訓，熟悉各種規範和應急響應，考核通過才能上崗。上崗後，每隔一定時間（一般是一兩年）要重新到仿真系統上複習和重考，考核通過才能再次上崗。

仿真系統是對工業過程的高精度數字模仿。操作工坐在仿真系統控制台前時，背後是真實過程還是數字仿真，這是透明的。說這是幾百萬甚至上千萬美元級的大型電腦遊戲也沒錯。

也許駕車人也需要仿真訓練了。不僅在學車階段，還要在仿真系統上對應急技能年考。

現在汽車越來越複雜，尤其是智駕出現之後。駕校畢業就一勞永逸，在全機械時代是可行的，反正新老汽車技術對於駕車人來說沒有本質差別，老司機拿到什麼車都基本上能不看說明書就上路。但智駕發達後，連面板操作都不一樣了，需要熟悉的地方就多了，至少需要人講一講。

最大的問題還在於智駕。什時候管用，什麼時候需要人工接管，接管後系統是徹底撒手不管還是繼續保留部分輔助功能，這些一方面需要國家標準統一規範，另一方面需要適當的訓練資質才能有效使用。

好在智駕是可以激活或者關閉的。或許應該實行分級駕照。駕校畢業獲得基本駕照，可以全人工駕駛，但沒有資格使用智駕。年度仿真考核通過的，獲得使用智駕資格。駕照資格與車鑰匙實現某種綁定，這在電子鑰匙時代是可以實現的。也可以普通車鑰匙與刷卡開鎖智駕相結合。代用、冒用的可能總是存在，責任最終在於人，人要作死，天也沒辦法。

從智駕談開去，廣義的自動化、AI化都有相似的問題。人才是最終負責的，完全“信賴”自動化和AI害人害己。

對於能人，要懂得“人駕馭自動化，而不是自動化駕馭人”的道理，只有懂得、幹得比自動化更多，才能駕馭得動自動化；對於懶人，用不動就別瞎用，否則害人害己。對正常場景比拼自動化與人誰更“能幹”是愚蠢的，那和與機器人掰手腕一樣愚蠢。

最低限度，要在自動化萬一失靈而造成損害時，自己能可靠“擦屁股”，才去用自己並不熟悉的自動化。比如說，掃地機器人可能把房間弄得亂七八糟，但這樣的後果還是自己能處理的，那就不必對掃地機器人有多深刻的理解才能用，直接用就是了。

但對智駕能幹什麼、不能幹什麼、幹不了的時候自己能不能接管沒把握，還是別瞎碰為好。後果是可能把命搭上，這是你沒法“擦屁股”的。