熟練操作的背後，是強大的資料庫分析支援和簡單易用的操作介面。這款由海信提供的交通資料分析產品被取名“慧眼”，顧名思義，就是透過資料分析和視覺化的呈現，使交警在繁雜、無序的交通大資料中，迅速發現關鍵資訊和指標，並做出科學決策。

　　在以往，同樣資訊的獲取是非常複雜的一項任務，在新技術的幫助下，交警有了新的工作重點——決策。

　　貴陽，是發力大資料產業的全國典型，在智慧城市建設上，同樣值得研究。

　　用技術打造的“治安利器”

　　時間回溯到2015年3月，公安偵查人員正在為破獲一起殺人案進行努力。一般，我們認為，偵查人員的線索會來自各種實地調查、人員問詢，但這次的關鍵，卻是影片監控。貴陽的天網建設已經比較密集，但只有監控影片還不夠，藉助海信平安城市平臺的“智慧分析”功能，偵查人員將嫌疑人作案前的所有活動軌跡重新進行了“繪製”，什麼時刻出現在什麼地方，一目瞭然，成為案件偵破的關鍵線索。

　　以前，偵查人員空有體量浩大的影片資料，但不可能一一檢視。在人工智慧技術支援下，能夠透過關鍵字“搜尋”影片，如輸入“男”“中年”“藍色上衣”，系統便會快速反饋所有符合條件的人物影象和影片片段，不僅是工作效率的提升，更關鍵的是分析決策過程的科學化。

　　在今天，交警部門面對違法套牌車，再也不用“人工監控”“人肉抓捕”，因為系統會自動發現套牌車輛，並在8秒內聲光報警，同時制定抓捕策略。當然，抓捕也不需要交警的“疾速飛車”，管控平臺會自動追蹤和預測車輛的行駛路徑，將它即將到達的路口設定為“紅燈”就可以了，嫌疑車輛在交警到達前就會被“堵住”，哪裡也跑不了。

　　智慧化的城市道路和居民出行

　　對於交通擁堵，現狀同樣被智慧技術所改變。

　　且不說海信智慧交通系統應用後，貴陽市主幹道停車次數下降了35%，排隊時間縮短了27%，老城核心區內路段堵塞率下降了50%等資料，僅對交警而言，他們的工作變得更高效了。

　　以前，交警獲取交通擁堵資訊的來源有兩種：影片監控和車主報警，以人工為主，整體效率較慢，缺乏即時性。現在，在智慧管控平臺的協助下，擁堵會被流量檢測系統、卡口系統自動實時的檢測著，一旦突發擁堵，系統觸發兩種操作：上報指揮系統，派出警員執勤;同時，下發訊號控制方案，自動調整擁堵區域的紅綠燈時間。從突發擁堵的發現到警情響應，時間從20分鐘縮短到5分鐘，有效提高通行效率，緩解擁堵。

　　在貴陽，海信協助下的BRT、地鐵專案相繼建成運營，市民的出行有了更多的選項。BRT的高效執行，需要後臺智慧排程系統的配合，透過海信公交BRT智慧排程管理系統，綜合分析當前客流量變化和歷史資料，及時合理配車排班，同時車輛的位置、到站時間等都可以準確顯示在車站內的電子屏上，方便市民檢視。

　　伴隨智慧城市建設帶來的變化，最終受益者是市民。無論交通效率的提高、擁堵的緩解，還是平安城市天網下的治安維護，都為市民打造了一個安全宜居的生活環境。

人工智慧技術革新的速度和力度令人眩目，在人們歡呼技術進步紅利之餘，越來越多的人擔憂人工智慧技術是否足夠安全。霍金、比爾·蓋茨等科技巨擘們都開始警示：無度發展可能導致人工智慧最終反制人類，造成不可控的毀滅。畢竟在人類的漫漫進化之路上，人類經歷無數次血與火的淬鍊，才懂得相互之間溝通與妥協，才逐漸學會了如何同類合作及和睦相處，反觀由人類一手創造出來的超級智慧則會擁有遠遠超越人類的能力、意志，但是否還存在與人類相似的價值觀和社會規範呢？人工智慧時代，人類如何取得共識並相互協作，確保一個安全和諧的智慧未來。

人工智慧面臨的安全挑戰

美國蘭德公司2017年發表報告指出人工智慧時代最應關注的問題是安全和就業，次要問題還有健康、政策制定、衝突解決、網路安全和隱私等問題，本質原因是技術的潛在缺陷及其應用程度不同帶來的不平等，而且人們傾向於無條件信任人工智慧，從而造成“自動化偏見”。在就業領域，人工智慧必然會取代許多職業，再現人們以往爭論不休的“機器替代人類”的倫理道德問題，但技術進步還將創造新的工作機會。

從技術層面來看，人工智慧的最大安全問題是存在黑盒風險，其研發目標及其實施、執行機制等均不透明且不可解釋，另外當前透過挑選和響應大量資料來完成機器學習的模式，僅僅是考慮如何提供和保護這些資料，就帶來了隱私保護、資料安全及潛藏的演算法偏見和歧視問題。

從應用角度來看，人工智慧將應用於健康、醫療、社會管理等領域，尤其是武器化人工智慧，將帶來人類尊嚴、倫理道德等價值觀問題，未來人工智慧技術的自我提升，將加劇此類問題。

在社會文化層面，潛在風險是人們對人工智慧觀念過度分化，普通人難以理解技術的複雜性和多樣性，另外當前法律法規對人工智慧的監管還存在大量的灰色地帶，人工智慧帶來的安全責任無法分擔等諸多問題。

這些問題若得不到穩妥解決，勢必給人工智慧技術的廣泛應用蒙上陰影，給技術的進一步發展帶來障礙。

全球各界的安全舉措

當前各國政府、企業、智庫以及專家學者等也紛紛提出各自的政策、倡議、舉措或見解等，這些提議反映出人類對於人工智慧技術發展的思考和憂慮，及針對性的對策。

關於人和智慧機器如何相處，最著名的莫過於由科幻小說家阿西莫夫在1942年提出的“機器人三定律”：（1）機器人不得傷害人類，或因不作為使人類受到傷害；（2）除非違背第一法則，機器人必須服從人類的命令；（3）在不違背第一及第二法則下，機器人必須保護自己。在現實研究與應用領域中，這個原則略顯空泛、難以操作。

在政府報告中，最典型的是2016年美國政府釋出的白宮報告《為未來人工智慧做好準備》，美國政府認為人工智慧越來越重要，美國需為未來做好準備，因此制定人工智慧的發展路線和策略。該報告一共有23條建議，覆蓋人工智慧應用及給社會和公共政策帶來的挑戰，如利用人工智慧技術來提升社會福利和改進執政水平、鼓勵協同創新並保護公眾利益，提出為人工智慧技術制定監管措施，採取措施確保技術應用應當是公正的、安全和可控的等建議。歐盟則在2018年4月由25個成員國共同簽署了《人工智慧合作宣言》，鼓勵成員國在共同促進創新、增進技能和法律援助等3方面進行合作，達成如人工智慧研發與應用、安全到責任區分等14條一致性事項。

聯合國尚未形成正式的指導原則，但彙集當前數個較有影響力的呼籲、原則和建議等設計新框架，將全部事務分為14個領域，如“實現有益的人工智慧研發”“全球治理、競爭條件與國際合作”“經濟影響、勞動力轉移、不平等及技術性失業”“責任、透明度和可解釋性”“網路安全”“自主武器”“通用人工智慧與超智慧”等，在每個領域直接引用第三方提出的原則與建議。

業界則有《阿西洛馬人工智慧原則》、谷歌人工智慧原則等，其中發表於2017年1月阿西洛馬人工智慧原則尤為突出，此原則合計23條、分為“科研問題”“倫理道德”及“長期問題”三部分，倡議全球工業界、研究界採取措施共同保障人類未來的利益和安全。同在2017年1月，美國IBM公司提出“目的、透明度、技能”的人工智慧三原則。而近年來在此領域取得極大成就的美國谷歌公司，為迴應2018年4月份數千名員工呼籲終止與美國國防部合作專案並要求不再“研發戰爭技術”，終於在6月份透過官方部落格釋出了關於使用人工智慧的七項指導原則和四類場景不應用的承諾，如由人類擔責、保證隱私、提前測試等原則，避免人工智慧技術造成或防止加劇社會不公，承諾不將人工智慧技術應用於開發武器等。

中國對人工智慧的發展也極為重視，近幾年相繼釋出了《“網際網路＋”人工智慧三年行動實施方案》《新一代人工智慧發展規劃》和《促進新一代人工智慧產業發展三年行動計劃》等一系列政策性檔案，從戰略層面引領人工智慧發展。科大訊飛則在2016年發出人工智慧四點宣言（深圳宣言），2017年騰訊則提出確保人工智慧應走向“普惠”和“有益”，提出“自由、正義、福祉、倫理、安全、責任”六原則。

人工智慧安全發展上海倡議

為了應對人工智慧的安全挑戰，守護智慧時代的人類未來，在上海舉辦首屆世界人工智慧大會之際，世界人工智慧大會安全高階對話聯合國內外人工智慧領域專家學者和產業同仁，充分吸納國內外人工智慧安全共識的基礎上，發起“人工智慧安全發展上海倡議”，內容包括：

面向未來：人工智慧發展需要保持創新與安全的協同，以安全保障創新，以創新驅動安全。不僅要確保人工智慧創新應用的安全，同時應當將人工智慧積極應用於解決人類安全難題。

以人為本：各國需要科學規劃人工智慧發展的路徑，確保人工智慧按照人類預想並服務於人類福祉的目標發展，對人工智慧自主進化和自我複製等須進行嚴格的評估和監管。

責任明晰：人工智慧發展應當建立完備的安全責任框架，需要根據各國的法律法規和倫理規範，不斷探索人工智慧安全責任認定和分擔機制。

透明監管：人工智慧發展應當避免技術黑箱導致的安全風險，需要透過建立可審查、可回溯、可推演的透明監管機制，確保目標功能和技術實現的統一。

隱私保護：人工智慧發展不得危害使用者隱私和資料安全，人工智慧技術和模式的創新不得以犧牲使用者隱私權為代價，需要在各國法律框架下開展人工智慧隱私和資料的保護。

演算法公正：人工智慧發展應避免由於演算法偏見引發的社會危害，須明確演算法設計動機和可解釋性，克服演算法設計和資料收集引發的不公正影響。

和平利用：人工智慧技術需要審慎運用在軍事領域，自主化武器的研發和使用須透過嚴格的風險評估，避免人工智慧軍事領域無序應用對全球和平穩定的威脅。

國際合作：人工智慧發展需要各國秉持開放共進的精神，透過在國際範圍建立人工智慧規範和標準，避免技術和政策不相容導致的安全風險，積極推動各華人工智慧安全發展。