回覆列表
  • 1 # Raymon725cnBeta

    《紐約時報》指出,如果被別有用心的人得逞,這種攻擊手段可用於撥打電話、開啟網站、甚至更糟糕的事情。

    根據來自加州、伯克利、以及喬治城大學的學生團隊在本月發表的一篇研究論文,他們甚至可以將惡意命令嵌入音樂錄音或口述文字中。

    當在亞馬遜 Echo 或蘋果 iPhone 附近播放時,普通人只能聽到單純的歌曲或語音。但智慧裝置能夠撿拾起一條潛在的指令,比如向購物車中新增一些東西。

    往更危險的層面去講,惡意攻擊者可以下達鎖門、卷錢、或購買線上商品等操作 —— 儘管在通常情況下,為了不引起事主的注意,事情都是靜悄悄地進行、涉及金額也不會太大。

    然而論文作者之一、來自加州大學部落格利分校的五年制計算機安全博士生 Nicholas Carlini 堅信,或許早已有惡意攻擊者實施過類似的技術:

    我們想要知道自己是否能夠讓它變得更加隱秘,雖然沒有證據表明這些技術已經跑出了實驗室,但它被人利用只是時間的問題。我的的猜測是,惡意攻擊者早已僱人幹過我提到的事情。

    【影片介紹】

    《Dolphin Attack_ Inaudible Voice Command》

    【影片地址】

    http://v.youku.com/v_show/id_XMzU5ODUyODA0MA==.html

    去年的時候,美國普林斯頓和中國浙江大學的研究人員們已經執行過類似的測試,證明了 AI 助理可以透過不被人耳所聽到的音訊給啟用。

    如上方的“海豚攻擊”演示影片所示,研究人員打造了一臺可以下達隱藏命令的傳送器,並順利地讓手機執行了撥打特定電話的操作(另有拍照和傳送簡訊等測試)。

    當然,海豚攻擊的範圍是有限的,因為攻擊者必須足夠接近接受裝置。

  • 2 # 向寬

    AI語音助理是藉助各種可對話的智慧裝置終端來服務的,而不能避免的是這些裝置可以聽到你聽不到的悄悄話,這些悄悄話會使你失去對自己裝置的控制。

    過去兩年裡,研究人員已經演示過向亞馬遜的 Alexa、Google Assistant 和蘋果的 Siri 傳送人耳聽不到的秘密指令,悄悄啟用智慧手機或智慧音箱的 AI 助手,命令它們撥打電話或開啟網站。如果這些裝置被惡意利用,可能會被用於解開門禁或給人轉錢或購買商品。

    圖片來自紐約時報 CreditLynn Scurfield

    一群加州大學伯克利分校的學生曾在2016年演示過,他們在揚聲器播放的白噪音和 YouTube 影片中隱藏語音命令,讓智慧裝置開啟飛航模式或瀏覽網頁。這個月(2018年5月),他們發表了報告聲稱可以將命令隱藏進唱片或是語音簡訊中。

    海豚攻擊

  • 3 # 創AI

    前一段時間的一個新聞可能更普遍,就是AI音箱自喚醒並播放內容。夜深人靜的時候,就算是它自動念阿彌陀佛也嚇人啊。

    倒是上面兩個回答透過其他生物驗證同時驗證就可以有效解決。所以我認為,智慧裝置至少要有三個裝置,麥克風、音箱和可移動攝像頭。

  • 中秋節和大豐收的關聯?
  • 一般修建公路大概需要鋪多厚瀝清?