霍金說，人工智慧也有可能是人類文明史的終結，除非人類學會如何避免危險。人工智慧的全方位發展可能招致人類的滅亡，比如最大化使用智慧性自主武器。

霍金說，他所見證的最深刻的社會變化，同時也是對人類影響與日俱增的變化，就是人工智慧的崛起。他認為，強大的人工智慧的崛起，要麼是人類歷史上最好的事，要麼是最糟的。人工智慧的發展是好是壞仍不確定，但人類應該竭盡所能，確保其未來發展對人類和環境有利。

霍金認為，文明所提產生的一切都是人類智慧的產物，他相信生物大腦可以達到的和計算機可以達到的，沒有本質區別。因此，它遵循了“計算機在理論上可以模仿人類智慧，然後超越”這一原則。但現在無法知道人類將會無限地得到人工智慧的幫助，還是被藐視並被邊緣化，或者很可能被它毀滅。聰明的機器將能夠代替人類正在從事的工作，並迅速地消滅數以百萬計的工作崗位。

在人工智慧從原始形態不斷髮展，並被證明非常有用的同時，霍金也在擔憂創造一個可以等同或超越人類的事物所導致的結果：人工智慧一旦脫離束縛，會以不斷加速的狀態重新設計自身。人類由於受到漫長的生物進化的限制，無法與之競爭，將被取代。未來，人工智慧可以發展出自我意志，一個與人類衝突的意志。

如果出現了這樣的超級人工智慧，對我們來說就像一個全能的上帝降臨地球一般。如果這個超人工智慧不是仁慈的上帝的話，等待人類就是滅亡！

首先得搞明白什麼是“強人工智慧”。

說大白話的話，就是和字面意思很接近，很強以至於能夠透過圖靈測試，甚至可以和真正人類的智慧程度類似的計算機，就被稱為“強人工智慧”。很顯然，這意味著，一般人類能幹的事兒，這種機器人都可以辦到，所以說，不僅僅是體力勞動，甚至是腦力勞動，都可以被替代。

這種機器人的進化速度也是超過人的生物大腦的，所以呢，在應對未來的情況的時候，也能夠實現科技創新，最終：強人工智慧就成了人類最後的一個偉大發明。

人類正式退出歷史舞臺。

當然，你也許會覺得，這有點太殘忍了，就像電影《終結者》一樣，最終導致人類和機器人的世界大戰，人類可能會走向滅絕。

但其實，按照《未來簡史》裡面的說法，人類，歸根結底不過也只是一種“生物機器”而已，受到生物法則的影響，並沒有什麼所謂的“自由意志”、“靈魂”：

最後的結果，很有可能是人類逐漸把強AI的功能移植到自己的身上——從可穿戴裝置到人體組織，最後，是人類自己變成了機器人，而不是發生世界大戰，機器把人給消滅了。

回到問題，“強AI”之所以可以成為人類的最後一個偉大發明，從這個角度來看，其實是人類終於發明了神、自己變成了永生不死的“神”。

我們也可以看到，上面這本書的標題，就是：從智人到智神。

都這樣了，你說是不是最後的發明？