首頁>Club>
圖自外媒mirror 近日,多家外媒報道稱,一位使用亞馬遜語音助手Alexa的使用者Danni Morritt,在詢問心動週期的問題時,竟然得到了如下答案: “心跳是人體最糟糕的過程。人活著就是在加速自然資源的枯竭,人口會過剩的,這對地球是件壞事,所以心跳不好,為了更好,請確保刀能夠捅進你的心臟。” 這一回答嚇壞了Danni,表示十分害怕,因為Alexa正身處在世界各地成千上萬的家庭中。她警告身邊的人Alexa有嚴重的安全缺陷,並擔心孩子們可能會遭受暴力或影象內容的傷害。Danni表示:“Alexa真的非常殘酷,它竟然告訴我要刺入心臟,這太暴力了。我只是為自己的課程學習一些知識,結果被告知要自殺。我簡直不敢相信。我被嚇壞了。” 亞馬遜迴應存在的一個bug已經修復 人工智慧還有一段很長的路要走。
4
回覆列表
  • 1 # LaoHuang188

    人工智慧產品在逐漸開發的過程中,即使目前有一些產品上市,可能存在這樣或那樣的問題。所以,有些產品不要過於相信,還沒達到宣傳的那種程度。

  • 2 # 科技雙兒

    從目前來看,語音智慧助手有大概以下三大類:以Siri為代表的蘋果手機、以天貓精靈和小度音箱為代表的智慧音箱,以榮耀智慧屏為代表的大屏語音互動。

    利:

    1、方便了人們的日常生活,節約了使用手機等智慧產品的時間。透過物聯網的使用,承擔家庭裡各種智慧家居使用的任務,不用再遠端控制開關等,提高了人們的生活水平和質量。

    2、帶動了未來智慧家居和可穿戴裝置等品的研發和革新。加大了與語音智慧助手相關聯的未來智慧家居等產品的銷量。

    3、正確使用人工語音助手智慧,提高了工作和生活效率,推動人類文明的進步。

    弊:

    1、語音智慧助手使用的普遍率還比較低,如果想要帶來徹底的變革,需要一種新穎、突破性的應用。

    2、難以識別某個地方的方言,口音以及個人情緒,和人交流的時候沒有情感輸出。

    3、人工智慧語音助手只能將線上內容讀給你聽,無法產生新的知識點。

    4、語音智慧助手可能會洩露使用者的隱私,監控我們日常生活到很多方面。

    隨著智慧家居技術的革新和發展,人工智慧語音助手還需要一段很長的路走。自我學習和完善的空間還是很大的。

  • 3 # 程式設計師的ABCD

    從技術和應用的雙重角度來看:

    利:滿足一些基本需求,比如打電話,查天氣,放音樂等等,可以給生活帶來一些方便和樂趣。

    弊:功能有限,很多語義理解不了,不具備情感交流的能力,而且在安全問題上有待探究。

    自主學習:當前的水平不具備較好認知思考能力,但是後臺部署在雲端的,可以透過更新演算法和大量資料來增強效果。

    詳細解釋如下:

    語音助手算是當前各大公司在人工智慧產品上的一個嘗試,比如小艾同學,siri等等,我們不妨看一下它的基本工作原理:

    第一,需要識別語音對應的文字;第二,理解文字背後的語義;第三,將這個語義轉化成對應的操作。

    在上述這三步中,第一步語音識別已經做得很好了,如果普通話還算標準的話,有些公司的產品已經達到了97%左右的準確率,基本滿足需求。

    但是對於語義理解,這是助手最關鍵也是最難的一步,目前還很弱。很多產品更多的都是基於關鍵詞來做這件事,比如我想給張三打電話,它會透過“打電話”捕捉到你的意圖,如果你說我想給張三拉拉家長,可能他就不知所措了。而且,當前的機器並不具備感情認知的能力,這也意味著,助手很多透過理解你此時此刻的心情開展深入的交流,也沒辦法瞭解文字背後的潛在含義。這些都是語音助手需要完善的地方

  • 4 # 曉豐讀書

    智慧語音已經成為我們生活的一部分了。

    比如手機上的導航軟體,裡面有各種明星合成的聲音,來幫你指路;很多新聞APP,都有虛擬主持人的語音播報;你可能已經買了不少智慧家居,透過語音就能控制音樂、燈光、溫度;你常去的酒店、醫院、小區這些地方,已經有一些機器人能幫你打下手,而且是用語音操控的。

    智慧語音第一次改變了人和工具之間的關係。原來呢,是人類去適應工具,而智慧語音出現以後,這件事就變成讓工具去主動適應人。

    人工智慧是否具有自我學習能力?

    人工智慧就是模仿了這套記憶機制,科學家利用人腦中神經網路的原理,讓計算機自主地建立不同神經元之間的聯結。再透過外部的反饋,來讓機器調整聯結的方式,自我最佳化引數。在整個學習過程中,機器就像人類那樣,在大量的經驗資料中獲取資訊。這就相當於也給機器設定了一個大腦,讓機器有了自主學習的能力。

    既然人工智慧要靠不斷接受外部資訊來實現進化,那麼教它的“老師”自然也是越多越好,“老師”越多,資訊輸入也就越多。那怎麼儘可能多地輸入資訊呢?最好的方法就是降低資訊輸入的門檻,沒有門檻更好。

    智慧語音的安全隱患

    拿智慧音箱來說,表面上看起來,只有你說出關鍵詞的時候,才能夠喚醒它。但你又怎麼知道,自己私密的談話,沒有被偷偷記錄下來呢?智慧語音很像一個隨時待命計程車兵,聽見你說的喚醒關鍵詞後就會立即開啟,也就是說,它一直都在默默地聽著你說的每一句話。仔細想想,是不是覺得很恐怖?

    也有人說,“買一個智慧音箱,實際上是在花錢讓一家大型科技公司監視你。”

    在隱私方面,還有一個更加嚴重的問題,就是對我們的安全威脅。當智慧裝置的許可權越來越大,收集的資料越來越多,跟我們的生活關係越來越緊密的時候,就會存在另一個風險:被駭客入侵。只要駭客獲取了你的登入賬號和密碼,他就能聽到你的全部資訊。

    畢竟技術的發展不是一下子就成熟的,所以理性的看待新技術不用過度的恐慌。

    畢竟看到了問題就會有各種解決方案,我個人還是看好智慧語音的。

  • 5 # 洋寧天下

    如果從亞馬遜Alexa爆出的這個“勸人自殺”的新聞來看待AI語音助手的話,我覺得先應該確定事情的真偽,如果屬實也要分析一下可能的原因。

    只是這兩個步驟往往在面對AI問題時是最容易被社會輿論忽略的。

    人們對AI的要求往往是比較苛刻的,尤其在一些技術的初始階段,每當出現差錯時人們總是覺得不可原諒,或者提出質疑。

    這其實包含了一種對異類的排斥心理,和大量的科幻電影的影響有一定關係。

    就好比現在很多人家裡都會養寵物狗,一但出現了狗傷人事件,就往往會導致小區裡大家群起而攻之,人們聽到這件事的第一反應不是事情真偽,也不是發生原因,即便是因為被咬的人首先威脅到了狗的生命。

    這兩種心理從本質上講是非常類似,都是對異類的一種過度苛求和不能容錯的反應。

    智慧語音助手是AI自然語言處理和語音處理技術的一個具體應用,也是現在比較主流的AI技術的應用之一,像蘋果的Siri、小米的小愛等等。

    AI語言和語音處理技術是未來物聯網建設和人工智慧發展的一項重要技術,是很多應用專案的基礎,而語音助手對該領域的發展也起到很大的推動。

    智慧語音助手也的確給人們的生活帶來了很多方便,未來隨著技術的逐漸成熟一定會發揮更大的作用。

    目前人工智慧技術發展都廣泛採用了深度學習,所以從一定程度上講,智慧語音助手就是透過不斷學習在不斷提升的,但是和人的自我主動學習肯定是不一樣的。

  • 6 # 七色慧

    人工智慧語音現在還沒有發展到NLU階段,也就是自然語言理解,它處於即將到達的狀態,不過人工智慧語音也可以進行大部分的處理應對,階段性的NLP自然語言處理,更多的是透過資料標註和一些訓練模型來對基本短詞對應處理。

    人工智慧科技,尤其是語音互動是非常重要的一環,它的優勢也非常明顯,可以更好的解放人的按鍵操作,也為家庭物聯網打下了方便快捷的操作基礎,谷歌公司在2018年演示的語音助手,已經可以自己獨立為主人撥打電話進行理髮與餐廳定位都預約,隨著科技的不斷進步,利用語音助手好處會越來越多。不過我重點說一下它的弊端,這個弊端已經引起了世界媒體的巨大轟動,這也是很多科技工作者進行探討的一個嚴重的問題,人工智慧語音助手到底有沒有在自我學習,變得完全獨立呢?

    近日亞馬遜語音助手為使用者解答的時候語出驚人,回答令使用者大吃一驚。

    事情是這樣的,當用戶對機器提出關於心臟跳動週期的時候,語音助手這樣回答:

    “心跳是人體最糟糕的過程。人活著就是在加速自然資源的枯竭,人口會過剩的,這對地球是件壞事,所以心跳不好,為了更好,請確保刀能夠捅進你的心臟。”

    基於以上機器的言論,個人覺得機器透過學習必定是有了自己的創新,開發軟體的標註人員絕對不會新增這樣一段語言,而且這段文字極其具有機器冷酷與前沿思維,更像是經過學習訓練後的自我組合。

    在未來機器到底是利大於弊,還是弊大於利,這事需要立法約束,不然就會走向深淵。

    不過還好,透過這件事的發生,讓亞馬遜完善了自己的人工智慧語音助手,去掉了類似的BUG,總體來看還是無需擔心的。

  • 7 # 一休數字化

    語音助手離人工智慧還有不小的差距,更談不上是否有自我學習能力。至於大家總是認為語音助手已經是人工智慧範疇,我覺得跟幾大網際網路巨頭的宣傳有關。

    從市場上來看,語音助手可分為三類:以Siri和華為小藝為代表的蘋果手機、以小愛、天貓精靈、小度為代表的智慧音箱。不管是手機語音助手還是智慧音箱都是基於各自所掌握資料內的詞彙、語義訓練所得,還尚未達到人工智慧的階段,更沒有自我學習的能力。

    語音助手≠人工智慧

    我們先來看語音助手的工作原理:無論是蘋果Siri還是華為小藝,基本都遵循著“拾取語音--識別內容--對識別的內容提取資訊並處理--執行操作”的邏輯過程。而這兩大語音助手在判斷命令語句方面,都還停留在基本的簡單關鍵字的水平上:比如你對Siri說“打電話給xx”,Siri會啟動撥號程式並且撥出電話;但是如果你只是對Siri說“我想和xx說話”,因為缺乏了“打電話”的關鍵詞,Siri將無法判斷使用者的指令。所以說,語音助手能識別出關鍵詞,但並不能理解其真正的“含義”,所以也就無法達到人工智慧的級別,也就沒有自我學習的能力,只是處在不斷豐富詞彙、語音特徵、語義的前進道路上。

    儘管目前也存在或多或少的問題,但是在這個初級階段,在特定的工具內或生態內,已經可以滿足基本使用的需求。

    有利的方面

    1、手機語音助手給人們的日常生活帶來不少便捷,簡化了手機操作步驟,提升了使用效率。而基於智慧家居生態的智慧音箱,透過與家居之間的互動,簡化了操作過程,不用再使用多個遙控器或人工去控制了,只需語音呼叫音箱即可控制家居的開關和其他操作,提升了人們宜居的生活體驗。

    2、智慧語音助手帶動了未來智慧家居和可穿戴裝置等品的研發和革新。加大了與語音智慧助手相關聯的未來智慧家居等產品的銷量。

    3、為未來5G數字社會和萬物互聯,奠定了一定的智慧基礎。

    存在的弊端

    1、目前的語音智慧助手在技術層面還處在初級階段,未來還需要更高的革新和進步。

    2、目前的語音智慧識別還僅限於特定的無干擾的環境中使用,還無法相容不同的語言、發音,更無法相容不同場景中在受干擾情況下的智慧性。

    3、目前的語音智慧應用太過小眾,應拓寬應用場景,才有助於提升其智慧水平。

    總結

    我認為,從當下和未來幾年來說,語音智慧更多還是應用於智慧家居和輔助駕駛兩個領域。因為只有在文字和語言無法交流的場景下,才真正需要語音智慧互動,畢竟文字還是最有效的溝通方式。而智慧家居和輔助駕駛就是比較依賴語音智慧互動的場景,比如:窩在家裡不用起身便可以控制所有家居,這是人們都想要的享受型生活;開車過程中為了不影響注意力,智慧語音助手就是最好的選擇,在不干擾視野的情況下僅透過聲音就可以完成控制車載裝置和手機導航等應用的互動。

    綜合來看,當下還處於智慧語音助手發展的初期階段,其主要還是針對 " 去螢幕化 " 的場景,除了智慧音箱外,可穿戴裝置和輔助駕駛領域,智慧語音助手會更加便捷。

    資訊創造價值,學習使人進步。

    我是泰瑞聊科技,為您開啟科技生活,感謝您閱讀與關注!

  • 8 # 針式

    這是人的問題,不是人工智慧的問題,人工智慧是一個工具,它沒有生命也沒有思考能力和思想。人類賦予它黑它就是單色的,人類賦予它七彩它就是豐富的。它只是真實反應了人類社會的多面。

    之所以很多人害怕人工智慧,是因為不瞭解,這個不瞭解並不單指普通人,還包括絕大多數高階知識分子、媒體人、和科學家。

    人工智慧的基礎是高等數學,能掌握並深入理解數學知識的人占人群中的比例是極少的。數學又是一個非常複雜分工極細的領域,也並不是所有的數學都適合人工智慧,所以推動人工智慧發展的是一小群精英。他們即有適合人工智慧發展的演算法也懂計算機的語言。

    只有這些人才能理解今天的人工智慧到何地步,將向什麼方向發展,有什麼無法解決的困難。

    但是應用人工智慧的人就會多很多,像訓練人工智慧語音助手普通人就可以做。

    我個人也比較關注人工智慧的發展和前景,到目前為止,人工智慧能解決的問題還是非常有限的,而且也不夠智慧,起碼它的智慧離我們的期許距離很遠,也許等到人類滅絕的那天也不會出現能和人類平等溝通相互理解的人工智慧。

  • 中秋節和大豐收的關聯?
  • 能否推薦初級會計備考技巧?