回覆列表
-
1 # Raymon725cnBeta
-
2 # 向寬
AI語音助理是藉助各種可對話的智慧裝置終端來服務的,而不能避免的是這些裝置可以聽到你聽不到的悄悄話,這些悄悄話會使你失去對自己裝置的控制。
過去兩年裡,研究人員已經演示過向亞馬遜的 Alexa、Google Assistant 和蘋果的 Siri 傳送人耳聽不到的秘密指令,悄悄啟用智慧手機或智慧音箱的 AI 助手,命令它們撥打電話或開啟網站。如果這些裝置被惡意利用,可能會被用於解開門禁或給人轉錢或購買商品。
圖片來自紐約時報 CreditLynn Scurfield
一群加州大學伯克利分校的學生曾在2016年演示過,他們在揚聲器播放的白噪音和 YouTube 影片中隱藏語音命令,讓智慧裝置開啟飛航模式或瀏覽網頁。這個月(2018年5月),他們發表了報告聲稱可以將命令隱藏進唱片或是語音簡訊中。
海豚攻擊
-
3 # 創AI
前一段時間的一個新聞可能更普遍,就是AI音箱自喚醒並播放內容。夜深人靜的時候,就算是它自動念阿彌陀佛也嚇人啊。
倒是上面兩個回答透過其他生物驗證同時驗證就可以有效解決。所以我認為,智慧裝置至少要有三個裝置,麥克風、音箱和可移動攝像頭。
《紐約時報》指出,如果被別有用心的人得逞,這種攻擊手段可用於撥打電話、開啟網站、甚至更糟糕的事情。
根據來自加州、伯克利、以及喬治城大學的學生團隊在本月發表的一篇研究論文,他們甚至可以將惡意命令嵌入音樂錄音或口述文字中。
當在亞馬遜 Echo 或蘋果 iPhone 附近播放時,普通人只能聽到單純的歌曲或語音。但智慧裝置能夠撿拾起一條潛在的指令,比如向購物車中新增一些東西。
往更危險的層面去講,惡意攻擊者可以下達鎖門、卷錢、或購買線上商品等操作 —— 儘管在通常情況下,為了不引起事主的注意,事情都是靜悄悄地進行、涉及金額也不會太大。
然而論文作者之一、來自加州大學部落格利分校的五年制計算機安全博士生 Nicholas Carlini 堅信,或許早已有惡意攻擊者實施過類似的技術:
我們想要知道自己是否能夠讓它變得更加隱秘,雖然沒有證據表明這些技術已經跑出了實驗室,但它被人利用只是時間的問題。我的的猜測是,惡意攻擊者早已僱人幹過我提到的事情。
【影片介紹】
《Dolphin Attack_ Inaudible Voice Command》
【影片地址】
http://v.youku.com/v_show/id_XMzU5ODUyODA0MA==.html去年的時候,美國普林斯頓和中國浙江大學的研究人員們已經執行過類似的測試,證明了 AI 助理可以透過不被人耳所聽到的音訊給啟用。
如上方的“海豚攻擊”演示影片所示,研究人員打造了一臺可以下達隱藏命令的傳送器,並順利地讓手機執行了撥打特定電話的操作(另有拍照和傳送簡訊等測試)。
當然,海豚攻擊的範圍是有限的,因為攻擊者必須足夠接近接受裝置。