有一句話叫"臥榻之側豈容他人安睡"，人類從始至終都不曾允許過比自己強大的物種或者其他東西存在，從潛意識裡面就認為這樣的東體會威脅到自身的安全，無論其是否真的對自己有敵意！這是自我認知層面的！

客觀角度來說，各種科幻大片的注入和媒體的過度宣傳，讓尚未健全的人工智慧以一種威脅活在人們心中，丟失了他本來的面目，人工智慧成為了人類心中比較近的假想敵。

很多人都對人工智慧表示擔憂，大多是擔心未來自己的工作會被AI取代，被社會淘汰。但更有甚者，有很多科技大佬也都對AI表示擔憂，這種擔憂是另外一個層面的。譬如埃隆·馬斯克就曾經表示擔心AI將來一定會消滅人類......

到底是怎麼回事？

先說我的看法：如果量子計算實現的話，確實AI可能會對未來的人類造成威脅，因為量子系統擁有“不確定性”。

機器人三定律

著名的科幻作家阿西莫夫曾經在他的小說《我，機器人》中，首次提出著名的“機器人三定律”：

1. 機器人不得傷害人類個體，或目睹人類個體將遭受危險而袖手不顧。

2. 機器人必須服從人類的指令，當該命令與第一定律衝突時例外。

3. 機器人在不違反第一、第二定律時要儘可能保護自己的生存。

實際上，這三大定律都是在說機器人不能傷害人類。所以機器人、AI在程式設計的時候，不能傷害人類，是作為鐵律被寫死在程式裡的。既然是鐵律、原則，為什麼還有未來AI會消滅人類的擔憂呢？

量子力學的“隨機性”

根據我的猜測，這是因為量子計算機。量子計算機的計算能力極其強大，可以說是“吊打電子計算機”。這強大的計算功能恰恰來自於量子系統的隨機性：一個量子系統可以同時處在不同的狀態。

正是因為量子系統的隨機性，很多宏觀中不可能發生的事情在微觀量子世界有可能發生。最著名的例子要數量子力學中的“隧道效應”：宏觀世界中不可逾越的障礙，在微觀世界中，即便粒子能量不夠，也有一定機率躍過，儘管機率很小，但是不為零。

這還涉及到“意識本質”的問題，人類擁有所謂的“自由意識”，這種“自由”，實際可以理解為一種隨機性。若是人類自由意識的隨機性來自於量子過程，則量子計算機在強大的計算能力框架下，也有可能發展出，類似於人類自由意識的計算機“自我意識”。

擁有自我意識的計算機，不論什麼鐵律被程式設定，都有一定可能出現違背基礎原則的現象。這就好比你從小跟一個孩子說要好好學習，天天唸叨，孩子也未必會好好學習，事實上，可能不好好學習的是多數。程式設計師跟一個擁有自我意識的機器人灌輸不能傷害人類的思想，不知道計算機是否也會叛逆一把，哪天不高興了，開始想傷害人類，只要傷害人類的行為滿足機器人的利益。

量子計算機在調配網路資源方面有絕對優勢，且擁有自我意識的機器人，很有可能實現“自程式設計”，也就是機器人會根據環境自我進化，變得越來越強大，如此強大的機器人想要毀滅人類，也許易如反掌。正如《終結者》系列電影中的設定一樣，未來的“天網”在戰鬥力方面，對人類幾乎佔據壓倒性的優勢。

事實上，所謂的科技“奇點”理論，說的正是當計算機實現自程式設計，學會自我進化，人類關於計算機、AI技術的開發就終結了，因為計算機會自我進步，由此帶來科技大爆炸以及物質的極大豐富。只是那個時候機器人是否還聽命於人類，就無從知曉了。

人工智慧的真實展現很多人可能都是透過影視作品或者影片瞭解到的吧，如果想siri這樣的人工智慧，大家都會想“它傻乎乎的，根本構成不了什麼威脅”，但現在越來越多的人工智慧是轉向了人型，並且越來越逼真，不得不說，人們的擔心還是有必要的。

從影視劇看，很多影視劇傳達出來的意思都是人工智慧會有自我意識，並企圖消滅人類。人們害怕的也是這一點，當一件事情無法被自己掌握，或者說深不可測時，人們往往會有心底裡生出來的恐懼，比如深海恐懼等。可以類比做黑暗森林法則，每個文明都是帶槍的獵人，像幽靈般潛行於林間，輕輕撥開擋路的樹枝，竭力不讓腳步發出一點兒聲音，連呼吸都必須小心翼翼：他必須小心，因為林中到處都有與他一樣潛行的獵人，如果他發現了別的生命，能做的只有一件事：開槍消滅。雖然這是講的文明，但當人工智慧覺醒後，我們誰也不知道他會做什麼。

除此之外，人工智慧非常容易逃脫，在這個網路發達的時代，人工智慧內建的程式碼程式以及資訊流，都會在一瞬間傳輸到別的裝置上，雖然人工智慧的身體被毀，但意識仍在。

因為人工智慧越來越先進，人類會擔心有一天人工智慧取代人類的工作、生活甚至整個人也許會被淘汰。物競天擇，弱者很容易被取代。

試想一下，人工智慧一旦成功，根據現在分散式計算的部署方案，基本上沒有壽命長短的概念，也就沒有傳承的意義，這是對自然人類的顛覆。如果沒有父傳子繼，人類倫理什麼的應該也就像地心說一樣被歷史拋棄了吧，這個世界就剩下無盡的升級upgrade，屆時時間也應該失去了意義，或許就剩下防毒程式與病毒程式永恆無盡的鬥爭了