全球新一輪科技革命和產業變革方興未艾，而作為引領新一輪科技革命和產業變革的核心驅動力量之一，人工智慧技術將加快轉變為像水、電一樣的基礎設施，向社會全行業全領域賦能。然而，人工智慧基礎設施卻潛藏安全風險，所以人工智慧的內生安全（簡稱AI安全）是這項變革的重要組成部分，近幾年，無論是學術界還是工業界都在加強對AI安全的佈局、以及前瞻研究，相關威脅也日益引起重視。

2019年，螞蟻集團聯合浙江大學成立了“浙江大學-螞蟻集團金融科技研究中心”，“資料安全與隱私保護實驗室”是中心成立的第一個實驗室，由浙江大學任奎教授、螞蟻集團副總裁韋韜任聯席主任。《人工智慧安全白皮書（2020）》是該實驗室成果之一，耗費近一年時間研究撰寫完成，該白皮書完整版篇幅將近6萬字。該白皮書從學界、業界的共同視角全方位闡述人工智慧安全，系統性地歸納和總結AI 模型、AI 資料與AI 承載系統面臨的安全威脅；並根據不同的應用場景與攻擊者的威脅模型，分析近年來相關研究的優缺點；此外還探討了AI安全技術的進一步發展趨勢，面向未來提出了AI 應用的系統化安全解決方案。

人工智慧安全任重道遠，螞蟻集團期望未來與各界同仁一起為人工智慧安全做出貢獻，透過發展可證安全的人工智慧，為國家人工智慧戰略做好堅實的安全基礎，提供強有力的保證，讓人工智慧技術真正在各行各業創造新的可靠的生產力。

人工智慧安全白皮書（2020版）

<編寫單位>

浙江大學-螞蟻集團金融科技研究中心資料安全與隱私保護實驗室

二零二零年拾貳月