思考遠一點。

這個問題的前提是，人工智慧會像人一樣思考。現實不是，將來也很難是。AlphaGo和我們玩的不是一個遊戲，圍棋在它眼中不過是幾千張不同的模式圖而已，它感受不到下棋的“智力過程”，但是它能夠處理不同的“決策步驟”，然後找出最佳走法。

在科幻小說中，人工智慧雖然沒有用人類情感程式設計，但經常會自發地體驗這些情緒：例如，“駭客帝國 ” 中的特工史密斯受到對人類“厭惡”的影響。這是典型的擬人主義（人類具有先天性將非人物體、事物進行人格化歸因的傾向）。

擬人主義的一個例子就是相信你的個人電腦因為你為其升級了硬體而高興。學者們聲稱很多對人工智慧行為的預測（主要是媒體和名人）是不合邏輯的擬人主義。擬人主義實際上是關於人工智慧行為的邏輯陳述。擬人主義和AI行為邏輯的預測的目標都是，要充分了解人類和計算機是怎麼想的說的意義究竟是什麼。當我們缺乏這方面的知識時，常常用人類思維或計算機思維來類比AI的想法。

科學界普遍認為，高階人工智慧不會因人類的情感如“復仇”或“憤怒”而摧毀人類。相反，許多人擔心人工智慧是否會在實現其最終目標的過程中偶然將人類摧毀。

實際上，雖然人工智慧也許可以用人的情感進行有意的程式設計，開發類似於情感的東西作為最終目標的手段，但它不會自發地發展人類情感——無論如何，AI的情感都是虛構的。