-
1 # 北風飛雪花連天
-
2 # 象眼觀天下
智慧機器人擁有“殺人”權力的時候,不僅僅是世界和平遭遇危險的時候,而且可能是人類的末日。
當年美國科幻作家阿西莫夫提出了著名的機器人三定律:
一.機器人不得傷害人,也不得見人受到傷害而袖手旁觀。
二.機器人應服從人的一切命令,但不得違反第一定律。
三.機器人應保護自身的安全,但不得違反第一、第二定律。
阿西莫夫所說的機器人,實際上是指智慧機器人,即人類不能賦予一個機器人自主選擇是否殺死另個一個人類的權力。否則將來的後果是非常可怕的。一旦智慧機器人透過網路聯絡起來、透過自主學習產生自我意識的話,他們很有可能起來反抗人類的統治,爭取自我獨立與平等,最終他們會發現人類體力趕不上他們、智力也趕不上他們,沒有道理存在於這個世界上,從而產生消滅人類統治世界的念頭。
擁有智慧的殺人機器人將是人類的末日
很多的科幻作家都描述了未來人類和機器人之間的戰爭,而大部分並不看好人類。鑑於此,阿西莫夫提出了“機器人三定律”,以便從邏輯上杜絕機器人的危險性,並讓其成為機器人的最基本的安全準則。
此前人類也發明了不少殺人武器,但這種武器都是在人類的操作下進行作戰的,最終殺人的權力還是人類本身,並沒有給予機器人。這類機器人一旦研究出來,不說別的,假如其程式被病毒侵蝕發生變異,從而失去人類的控制,開始自我殺人,人類得花費多大力氣去消滅它!
所以這回南韓科學家所作所為突破了底線,各國科學家與其斷交都是輕的,我認為應該以“反人類罪”來起訴和審判他們。不然未來某一天,人類總結歷史的時候,可能會把這一件事件看做是人類滅亡的肇事。
世界各國政府應該行動起來,堅決禁止這種研究。當初各國政府針對“克隆人”行動那麼迅速,今天針對智慧殺人機器人,更應該如此立法!
-
3 # 青蛙甜筒
機器人武器和機器人士兵是未來戰爭發展的趨勢。不止南韓,世界各國都在積極發展作戰機器人,並且取得很大進展,美俄等國已經進行實地作戰實驗。未來的戰鬥機器人發展將更加趨於智慧化,獨立作戰能力將大大加強,我們在科幻電影中看到的戰鬥力強悍擁有自我意識的機器戰士肯定會在未來出現。這對人類來說不是好訊息,一旦這樣的戰鬥機器人失去控制對人類來說可能是巨大的災難。
-
4 # 十里友人
隨著人工智慧的快速發展,人們逐漸有了"人工智慧威脅論"這一說法。人類社會是不斷進步的,而且是越發展到後面的發展速度越快,也就是說現在每十年的發展速度可能相當於過去一百年的速度,而到了2040年人類的發展速度可能每一個月都相當於現在十年的發展速度,有的科學家就推測2040年會出現人工智慧智慧大爆炸。人類IQ極限就是二百多,而人工智慧不斷的學習,經過智慧大爆炸,可能IQ會達到一萬,十萬,一億,,,可能更高。人類創造出來的人工智慧是人類編寫好的程式,人工智慧是為人類服務的,樂觀的科學家就會說"只要給人工智慧輸入不可傷害人類的指令,人工智慧就不會產生叛變的念頭"而悲觀的科學家就說"人工智慧最大的特點就是會自主學習,他們的智慧如果發展到一定程度,產生非我族類的思想,那將會是人類的災難"
在2018年2.7號時,人類史上最強運載火箭SpacX升空,目的地火星,人類採訪馬斯克為什麼要創造SpaceX,馬斯克說,非常重要的一個原因就是我擔心人工智慧會毀掉人類,我打算從2024逐漸運送100萬人類到火星,一旦出現人工智慧叛變,那裡將會是人類人類最後的避難所。霍金曾經說過這樣一段話: “我說的人工智慧將會摧毀人類, 並不是說他們擁有著常人不可能擁有的智慧, 而是如果它們做一件事的目標, 和人類預期的目標發生衝突時, 人類的噩夢就開始了。”
不過這都是人們最悲觀的認識,可能以後人工智慧是人類最好的朋友也說不準呢
回覆列表
他要研製的是AI機器人武器,而不是機器人武器。
至於AI機器人武器,有個系列電影深深地影響了全世界。
終結者系列
題外話:施瓦辛格接受心臟手術 醒後先說經典臺詞:I"m back! 環球網 5天前而普通的遙控機器人,各個國家都在研製,並且都有不少成品,包括現在各種無人機,這個爭議不大。雖然最後的決策者還是人,但是這些裡面有多少AI在參與,不好說。
而這次被抵制的主角是南韓,我個人對南韓的AI技術不看好,至於最好的技術在哪幾家,大家都心裡有數,此事怕是作秀的成分大一些。
至於智慧殺戮機器人出現後,人類命運會怎樣,終結者系列電影有很好的描述:機器人主導了世界,然後與人類開始戰爭。
然而這還不是最讓人擔心的,我最擔心出現的是《機器紀元》裡面的情況。
人類作為一個落後物種被淘汰或者被奴役,而機器人成為了地球的新物種,並不斷自主進化,儘管是我們創造了它們。
適者生存這種事,從地球有了生命以來,一直在上演。
或許,人類可以自己選擇進化的方向,從有機生命體進化成機器人,同時實現永生。