【本文摘自360集團副Quattroporte兼首席安全官杜躍進在2022中國汽車先鋒論壇上的講話】
當智能汽車遇到相關問題時,該怎麼辦?360集團副Quattroporte兼首席安全官杜躍進從三個部分進行了分享:汽車是如何變的智能的?構建智能的過程中存在哪些風險?智能汽車安全的原則思路。
智能和汽車的融合已經很多,自動駕駛、自動泊車、智能座艙等,以自動駕駛為例,如果把它抽象出來,讓汽車實現智能化至少包括三個過程:一是各種各樣的傳感器,把物理世界裡的各種信號採集進來,變成可以計算的數據,然後在車載的計算平臺里根據這些數據進行計算,最後根據計算的結果進行執行方面的控制。
但實際上,智能網聯汽車不是單體,早已融入到了智慧城市、智慧交通、智慧社會上,所以,實際整個系統要複雜很多。除了車內,智能汽車還需要和外界交互,通過無線通信去傳遞數據,除了本地計算,很多數據是通過邊緣計算、雲計算進行的,在這個過程中,任何環節都會面臨被攻擊的風險。
在數據產生的階段,通過信號干擾、信號注入、數據汙染、數據投毒等方式來誤導車輛,比如讓車輛將停車標誌識別成加速;在數據計算的環節,無論是車內計算平臺,還是雲計算、邊緣計算,都是由軟件來實現的,這些軟件可以被系統入侵,入侵意味著可以被遠程控制,從而改變計算的結果;在數據傳輸的環節,如果兩個部件之間的協議設計不夠安全,可以通過身份冒充、數據篡改等方式,讓車輛無法正常工作。
車聯網普及之後,遠比汽車原來用的總線系統要複雜,車載網絡原先運行在封閉環境下,專用通信協議在設計過程中缺乏安全考慮,通信指令或數據被篡改直接影響信息輸入和決策輸出。
智能算法本身也可以被幹擾、控制,由於當前AI算法的不可解釋性,通過製作對抗樣本,構造人類難以分辨的擾動,將會引起AI算法決策輸出的改變。
智能汽車的風險雖然複雜,但任何一個都不能被忽視。應對這些風險要遵循哪些原則?杜躍進列舉了十個方面。
第一,要做到單點識別風險,整體控制風險;第二,風險不可被徹底消除,但要做到風險可控;第三,不要迷信理論證明,不要輕信“不可能”;第四,人也是薄弱環節,是供應鏈安全的一部分;第五,安全體系要做到可信、安全、可控、可對抗、可生存;第六,安全涉及設計、生產、運行各個環節;第七,安全必須做好頂層設計,基礎性、共性的東西要做好,漏洞無法窮盡,必須做好安全運營,及時發現和更新漏洞,隨時做好應對;第八,智能系統安全離不開安全大腦;第九,圍繞能力體系,需建立專業的朋友圈;第十,敏捷進步,做好開放創新、協同創新、持續創新。