極棒駭客比賽可以給人工智慧帶來安全幫助，人工智慧簡稱AI其原理是深度學習依賴對大量樣本進行學習也就是我們通常說的大資料，然後根據已有的資料做出最為正確的判斷，這個意願看似非常不錯但也存在非常大的漏洞，如果駭客能夠產生足夠迷惑AI的樣本資料那麼人工智慧將向錯誤的方向發展。所以為了讓AI以後不會出現我們預測的這種漏洞就要在我們還能控制局面的情況下將潛在的風險誘發出來並又駭客進行記錄和完善，還給我們一個更加安全和智慧的人工智慧。

不久前，AlphaGo 與柯潔的巔峰對決終於落下帷幕，結局不免令人失望卻沒有懸念——人類又一次敗給了 AI。

“不像是個人，像是一個神，”賽後年僅 19 歲的柯潔如此評價。

有學者指出， AlphaGo 模型本身是為了能贏而設計最佳演算法，AlphaGo 會傾向於以 99.99999% 的機率用 0.5 分的優勢勉強勝利，而不是 99.99% 的機率以 10 分的巨大比分碾壓對手。至於媒體報道中的“人類是否還有希望”、“捍衛人類尊嚴”等聳人聽聞的言論，忽視了 AlphaGo 還不具備除下圍棋之外的“特異功能”。

鮮有媒體提到的是 AlphaGo 也輸給了人類。在雙人配對戰中，棋手連笑 8 段和 AlphaGo 1 對弈古力 9 段和 AlphaGo 2。對弈中在對方開始取得優勢的情況下，AlphaGo 2 竟然自動舉牌認輸。即便是古力拒不認輸，而在隨後的比賽中 AlphaGo 2 消極應戰，提前終結了一場精彩的對決。

是的，“神一般存在”的AlphaGo 也會輸。

DeepMind 創始人 Demis Hassabis 說：“只有和人對戰才能發現 AI 的弱點，予以修正。僅僅透過開發演算法以及 AlphaGo 和自己對弈是不夠的。”

AI 的弱點，看似人工智慧的錯誤和不完善，但其實在駭客眼裡就有可能變成可以被利用的漏洞。

GeekPwn 國際安全極客嘉年華已經邁出“駭客 VS 人工智慧”的腳步。

2016 年，GeekPwn 首提人工智慧安全問題，並在矽谷站上邀請到來自谷歌大腦 Ian Goodfellow 和 Alexey Kurakin 研究員，加州大學伯克利分校 Dawn Song 教授和 Chang Liu 分享了在人工智慧領域的安全研究；人工智慧駭客 Clarence Chio 則在上海站分享了他利用“Deep-Pwning” 黑掉人工智慧掉過程。

2017年10月24日將在上海和矽谷舉行的極棒嘉年華延續“無所不 PWN”的自由規則，初始獎金池為 500 萬人民幣，繼續鼓勵廣大白帽駭客在智慧安全領域的探索。

極棒組委會重磅推出“人工智慧安全挑戰專項”，人工智慧可以成為駭客的助手，駭客亦可能“黑掉”人工智慧。

在人工智慧領域，深度學習依賴對大量樣本進行學習，最後產生決策的過程，和安全領域裡透過產生大量模糊測試樣本引發計算機異常，從而發掘出漏洞，最終執行流程可以被改變，進而導致安全危害的過程非常相似，如果說正確樣本能夠產生正確的決策，那麼駭客透過離線模擬產生的 AI 攻擊樣本，則可能給人工智慧帶來錯誤的決策和行為。

從對抗的思路出發，創辦“人工智慧安全挑戰專項”是為了尋找AI潛藏的風險並不斷幫助其完善，幫助人工智慧安全健康成長。也許有朝一日，駭客可以成為保護人類的那群人。

極棒嘉年華比賽規則

沒什麼軟幫助。人工智慧是機器的深度學習。現在的駭客比賽基本上都是破解作業系統，或者是瀏覽器之類的漏洞。基本上是提供一個軟體系統給駭客破解。而人工智慧，只是剛剛開始，還沒到深度應用的時候，人工智慧到底是怎樣的，還沒人知道，現在較為大家熟知的是阿爾法狗，對人類還沒有威脅。因為現在的人工智慧，只能說是baby期的。誰都不知道以後得人工智慧是怎樣的，在這種情況下，駭客大賽跟人工智慧基本沒啥關係。談人工智慧其實就是談未來，只有未來具有人類思維的人工智慧才能威脅人來，而未來還沒來，駭客也無從破解。所以駭客破和人工智慧暫時不搭邊。