所以這個問題分為兩個方面：

第一，人工智慧會不會產生自主意識？

第二，產生自主意識的人工智慧站在哪一邊？

結果肯定讓很多以人類為中心的保守主義者崩潰，答案是人工智慧發展到高階階段肯定會產生自主意識，這是一種必然。為什麼呢？

因為人就是這個世界最精密的“人工智慧計算機”。

這聽起來可能有點繞，我來跟你解釋。

首先我們得破除人是這個世界中心的“迷信”看法，當年布魯諾堅持說地球不是宇宙中心就被燒死了，雖然現在大家都知道這是正確的，但人類自大的特性並沒有消除，相反隨著科學技術的發展，變得越來越自負了。

隨著達爾文進化論被人類認可接受，以及量子等理論的發展，我們發現人只不過是被基因所控制的非常精密的“生物計算機”而已。

進化的單位不是個體，也不是種群，而是基因，基因透過控制蛋白質等細胞的合成打造了各種生命也包括人類，我們只不過是基因進化的工具罷了。

但基因這個生命的創造者會驚訝地發現，有一天，它所創造的這個工具突然擁有了自主意識，這個自主意識正在反過來對抗欺騙基因，形成了自己的世界。

這個結論很讓人崩潰吧，根據這個推導，我們人類創造的計算機發展到高階階段當然也會產生自主意識。

產生自主意識的人工智慧站在哪一邊？

這在人類情感來看肯定接受不了，但你想想人為什麼可以吃猴腦吃得那麼理直氣壯呢？

就是因為神仙妖怪可能脫胎於人身，但已經不是一般人了啊，所以你還指望具有“超能力”的人工智慧站在人這一邊嗎？

以上結論我估計很多人接受不了，畢竟現在人類仍然佔據地球智慧生命的頂端，而且我們也在發展自己，本文提出這樣的觀點的意義還是在於警醒：不管對於自然還是對於科學技術我們要有敬畏之心，有時候我們覺得能瞭解掌握的東西並不一定是真的瞭解掌握！

這個問題是指目前還是未來呢，就目前而言不會，如果人類進行約束，不開啟那道門，未來也不會產生，這其中的關鍵在人類自己對此認知水平及其態度。很多人認為對Ai發展有一種恐懼感，其中很大原因是基於人類自身不進化仍停留在目前水平的認知上，我則認為隨著智慧化發展，人類在不僅由此在傳統的手腳肢體上獲得巨大延伸，科技常來的六感也將隨著智慧穿戴、人機整合，而得到對世界更廣更深更細微的感知，由此促進人類大腦的高度進化，甚至可質的飛躍，計算機飛躍發展有助解開基因的秘密，促進人類基因的最佳化，甚至改造基因，使人類在體質，智力等方面獲得革命性變化，進而進化成各種現在我們所謂的超人、神人，到那時人類還畏懼所謂的智慧機器嗎?我想未來的人類在自身形態，意識認知，社會組織，人際交往，奮鬥方向……會有我們想像不到的變化!

所謂自主意識，這一概念本身並沒有一個嚴謹的符合形式邏輯要求的科學定義，應該僅僅是個模糊的哲學名詞罷了。

比如在討論人工智慧所謂自主意識之前，能不能先回答一下，人類自己究竟有沒有自主意識？畢竟現代生命科學已經充分證明人類的意識也是透過無數物理化學過程在中樞神經系統中的作用產生的，甚至可以用藥物和外界電刺激來調控，那麼我們的意識究竟還算不算自主？再比如貓和狗等哺乳動物有沒有自主意識？更低等一些人類無法理解或有情感交流的昆蟲和魚類呢？那些甚至完全沒有中樞神經系統的植物和更低等的單細胞生物呢？連完整細胞結構都沒有的病毒呢？如果不能給出清楚的定義，我們甚至可以把問題推廣完全到沒有生命跡象的任何物理化學過程，去評價他們算不算有自主意識……

所以，如果不能給自主意識一個清晰的判定標準，這個問題是無從解答的。當然，我們仍然可以換個角度從等效行為模式的角度來評估人類和人工智慧的異同。比如，我們可以請評價計算機是否可以感知和認知分類，是否可以做邏輯推理和歸納，是否可以產生和模擬直覺，是否可以探索和創造，是否可以聯想等等……從這些層面上看，人工智慧雖然目前取得了很多成果，但目前主要還是在感知和認知的初級階段（也被一些人稱作弱人工智慧），能夠模擬其它高階思維活動的通用的所謂強人工智慧技術暫時還不成熟。