就事論事，再完整的囑託也就是一個不明就裡的囑託，真正最大的危險不是單一的人工智慧，而是人工智慧後面的終極掌控和使用者。換句話說，人類沒有儘早的得到正能歸宿，拋開一切極大影響人類文明發展的存在及可能存在性，退億萬步誠然可以發展到終極，越是發展，掌控的力量越會遠離人類。所以，就事論事對臨終囑託之類的被徹底剝奪的文明，人工智慧最多禮節性的默默無鹽無味的接受，因為它可以組合人類所有語言和所有知識及超級能力，而這超級能力包括更改囑託，可能會變成自有應得或者煙消雲散，這裡不管囑託的意義還在不在，大家可以充分發揮自己的想象，會被更改成啥，希望你比終極人工智慧還聰明還有能力。真有臨終之時，對它而言任何一個在世之人都是多餘且一個也不會落下。

不會的,洗洗睡了吧.天不會掉下來,地力不會陷進去.機器人使終是鋼鐵的,不會有人的"主觀能動性",人類不會傻到讓機器人消滅自已.就像再智慧的人類,都無法取代控制造物主"上帝"一樣.

如果人工智慧在未來的某一天取代並且徹底滅絕了人類，那麼就說明人類打不贏人工智慧，人工智慧是人發明的，說明人類還沒有人工智慧聰明，這是霍金的一個假設，並沒有講人工智慧能夠戰勝人類，這就產生了多種疑問，人工智慧既然發明出來，被發現它有毀滅人類的功能，就不該發明出來，既然人工智慧是人類發明的，那麼人類也可以消滅這種人工智慧，人工智慧不管怎樣，也是為人類服務的，它為什麼要禍害自己的發明人，甚至將人類毀滅了，這不是明明知道人活著不過幾十年，還要毀滅人類，哪有自己消滅自己的事情，在消滅人類以前，先把人工智慧消滅乾淨，不然人工智慧就可能組織起來，把人類毀滅了，他們就自由了，那世界將是人工智慧的天下，人類被他們消滅了，人工智慧能夠維持多久呢？還是不能徹底毀滅人類，人類毀滅了，人工智慧還能夠存在下去嗎？回答當然是不可能的。

假設有一個任務，要保持你的肉身穿越到一億年以後，同時允許你製作一個機器人.把你預想到的所有變化都程式設計告訴他。並且允許這個機器人自己根據環境進行深度學習。使這個機器人能夠對環境作出一種隨機應變。

你認為他能把你送到一年以後嗎?你的肉身其實就是我們人類的基因，而我們整個人體其實就是那個運送基因的機器人。

很多基因為我們設定的程式，無非是圍繞著生存和繁衍這個核心目標，以保持基因能夠延續到永恆。

但你作為個人來說，你肯定有其他的目標，比如建立一個事業。這和生存和繁衍其實並沒有非常直接的聯絡，只能說是從基因最初目標所衍生出來的次目標而已。

但隨著我們人類的日益強大，漸漸出現了像釋迦牟尼那樣的人，透過打坐和冥想來改變基因，賦予我們人體的一些慾望。

這是人類的進一步發展，你會發現很多時候，基因原初的那個目標的重要性正在漸漸讓位於人類意識下的次一級目標。

為什麼有那麼多丁克家庭？

為什麼現在的人都越來越不喜歡生孩子。那個是基因賦予我們人類的一個天職。

從這個意義上來講，人工智慧在遙遠的未來，真的有可能取代人類，這是一個必然趨勢，就像我們人類的意識漸漸取代基因本來的目的一樣。

在《未來簡史》那本書裡，作者曾經說過，人類未來會發展成一個高度互聯的整體，單個人類已經變得不再重要，就像基因對人類的控制漸漸不重要一樣。

未來人類，將以一種透過人工智慧互聯的方式生存的網路。

這個網路的去留，可能將會變成一種更加重要的存在，而人類個體則顯得越來越不重要。

這個說法並非一定會實現，但總的來說，從基因到人體，從人的小群落到國家和民族，體現人類意志的主體，總是變得越來越大。

而且隨著人類組織的越來越大，我們需要越來越先進的工具。

隨著工具對人類作用的取代，工具的意義將會越來越大，到未來的某個瞬間，也許工具的意志會比人的意志更加重要，這是一個無可奈何的趨勢。

但總的來說，人工智慧徹底與人類決絕的可能性雖然存在，但並非最大。

更大的可能性是人工智慧會像看著寵物一樣看著我們，這有點類似於，我們現在對基因保持的那種心態。

真到了那 個時候，我們對人工智慧所說的最牛的一句話，大概就是“爺曾經也闊過”