人工智慧題材的科幻電影有很多，有以《駭客帝國》和《終結者》為代表的悲觀末世的想象，也有以斯皮爾伯格的《人工智慧》為代表的對機器人將心比心的催淚之作。而《機械姬》則是在一個英國拍攝的，中低成本的，在畫風和情緒相對冷靜的前提下，探討人工智慧這一命題的。換而言之，非常有《黑鏡》的感覺。
一個和人工智慧緊密關聯的詞是圖靈測試，它是透過人類是否能夠辨認與之交流的物件是不是機器來測定人工智慧是否有自主意識。自主意識這個詞很有意思。從人類發明工具起，到各種機器，電腦，自動化裝置，所有這一切的一個共同特徵便是“自動”，要麼直接放大人力，要麼是透過預先設定的程式工作，要麼是一個面對各種情況的精確反應的指令集。這些都沒有“自主意識”在裡面。所以在圖靈測試中，人是無法透過和機器對話來測試對方是否有自主意識的，因為這很可能只是測定機器的指令集有多豐富而已。
諾貝爾經濟學獎得主卡尼曼有一個“系統一”和“系統二”的理論。人類的“系統一”便是寬泛模糊的心理能力，或者說自主意識，比如對面的人是不是生氣了，這個人真好看，這個飯好吃否，這部電影是否爛片。而“系統二”是有客觀結果的事務，比如數學運算，資訊處理，人腦需要一段時間甚至無法完成。對於計算機則相反，“系統二”易如反掌，而“系統一”則是登天的難題。
影片則用了波拉克的畫做例子，這幅亂糟糟的畫是畫家清空腦子，讓畫筆自由地走向手要去方向，從而有了一幅介於隨機和直覺意識之間的作品，稱為“自動”畫作。但是如果把這個創作理念倒過來，每畫一筆，我都必須有精確縝密的理由來論證這一筆這麼畫是最優的，那麼就完全無法進行藝術創作了。這也是沒有自主意識的人工智慧無法自主進行藝術創作的原因。另一個例子是關於“顏色學家Mary”的思想實驗。Mary是一個對顏色的一切知識瞭如指掌的科學家，包括每個顏色的波長等等的各種物理特性。但是她只能在一個黑白的房間裡透過一個黑白電視觀測世界。所以她具有關於顏色的一切知識，卻沒有對其的主觀體驗。Mary就是人工智慧。而當Mary走出黑白房間的那一刻，主觀體驗到了五顏六色的世界，她才變成了有自主意識的人。
那麼什麼才是好的圖靈測試呢？本片給了一個很好的例子。【劇透警告】機器人最終利用了人類的同情心，以欺騙的方式獲得了自由。這一過程充分展現了機器人的自主意識，一是非外來指令的目的性--自由，除了這個目的，沒有任何外來的訊號促使她這麼做。二是實現目的的自主手段--欺騙和表演，人類竟然中招了。簡而言之，本片片名可以改為《機械婊》，或更為內涵的《芯機婊》來一言蔽之。
除了圖靈測試，本片更由人類和人工智慧愈發深入的交流提出了一系列倫理問題。先是面對一個有感情、有自主意識的機器人，你是否要尊重他的人權？還是把它當做以往的機器一樣作為財產，可以隨意拆卸、刪除、重置升級？這頗有上帝和人類的關係的意味，影片中圖靈測試的7天7個session是一個很好的隱喻。然而人和機器的關係並不能這麼簡單類比。上帝是遠遠高於人類的存在，視人類如蟲豸，發洪水毀滅世界就如過家家。而機器一旦跨過了圖靈測試這道坎，這個問題就沒那麼好回答了。人類從未直面過一個與自身有如此接近的智慧和意識水平的不同物種，更何況這個物種是人類自己創造出來的。斯皮爾伯格的《人工智慧》表達的就是對具有自主意識和感情卻被當做物件無情處理的機器人的同情。
《機械姬》則不止於此。首先人類自身會有身份認同危機。因為機器和你是如此的相似，你如何確定自己不是機器，不是別人的試驗品？片中的男主角便一度陷入這個危機。再者我們又驚恐的發現，儘管通過了圖靈測試，人工智慧和人類還是有很大不同。她雖有無限的知識和運算能力，且有自主意識，但其人格並不健全，缺乏道德感，對一切事物，包括人類和同類，表現出對物品一般的漠視和殘忍。這其實也是個將心比心的問題，想想在各大科幻作品中人類對機器人的態度。也許人格和道德感可以透過教育和環境影響改善他們，也許不能。而在人類與人工智慧的爭鬥中，一如本片和許多電影，人類的愚蠢和感性令自己一敗塗地。
這一系列矛盾鑄成了對人工智慧的悲觀情緒。一是人類無法控制並最終不敵他們，二是人類將遇到歷史上從未有過的倫理困境。
這個悲觀的預期是否會成為現實，誰也不知道。畢竟預測未來是不可能的，物理學家曾在20世紀初預言物理大廈已經完成，只剩下一些修補，但沒人料到相對論和量子論的橫空出世。同樣，幾十年前人們預想很快就能登上火星飛出太陽系，但是當前人類事實上的發展的方向卻是網際網路和移動裝置。對於人工智慧，我們也無法知道我們的擔憂是否會成為現實，不過比爾·蓋茨、伊隆·馬斯克、史蒂芬·霍金都表示了擔憂。
當今人工智慧的主要成果是機器學習，也就是透過大量資料和統計模型來做出基於已有資料的預測，這個預測可以是明天的股票指數，也可以是在畫面中識別某個事物，也可以是把一堆物件自動歸類。但這些任務的實現方式還是“系統二”，要想讓人工智慧有“系統一”型別的功能，有人提出了一個理論上的實現路徑：一是超強的計算能力，這個好理解；二是對人腦的逆向開發，也就是掌握人腦功能的實現方式；三是模擬人腦在自然界的進化過程，也就是可以搭建出一個非常原始的大腦模型，透過類似自然界進化過程的方式讓這個原始大腦逐漸進化，來提高智慧，透過技術手段可以讓這個過程比幾十億年的自然進化加快許多。
從自然進化和人類文明的發展史可以看到，這種進化發展是指數級的。自然界最高等的哺乳動物出現在最近的1000萬年，人類自20世紀以來的科技發展超過了以往歷史的總和。人工智慧的自我進化也可能是這個速度，一旦它達到了人類的只能，那很可能只需要再過一瞬間就遠遠把我們甩在了後面。人類宛如站在一個地鐵站臺上翹首以盼，人工智慧這輛列車在遠處緩慢的挪動，可一旦接近站臺，很能就是我再也追不上的呼嘯而過。屆時我們就無法理解它的邏輯，下一步要幹什麼，是否會毀滅人類。如果給它限制諸如“機器人三定律”之類的條件呢？這些條件總是有邏輯漏洞的。比如要讓人類快樂，不得傷害人類，也許如《駭客帝國》那樣把人類全部監禁起來，用Matrix來麻痺人類大腦是最符合這些條件的決策。要麼乾脆說不能改變任何東西，那就鎖死了人類文明的發展，還要人工智慧何用？
也有人用一個悖論提出了不同觀點。人類歷史不過是宇宙的一瞬，如果上述邏輯正確，一定早有外星人發展出了不可控的人工智慧並奴役整個宇宙，而地球目前仍安然無恙，說明這種事不會發生。這也說不準，這“奴役宇宙”也許是我們無法理解的方式呢？也許我們已經被以某種方式奴役了？
我們可以感到人工智慧這趟列車正在向我們駛來。這讓這個科幻問題的思考有了現實意味，也增添了不少趣味。
人工智慧題材的科幻電影有很多，有以《駭客帝國》和《終結者》為代表的悲觀末世的想象，也有以斯皮爾伯格的《人工智慧》為代表的對機器人將心比心的催淚之作。而《機械姬》則是在一個英國拍攝的，中低成本的，在畫風和情緒相對冷靜的前提下，探討人工智慧這一命題的。換而言之，非常有《黑鏡》的感覺。
一個和人工智慧緊密關聯的詞是圖靈測試，它是透過人類是否能夠辨認與之交流的物件是不是機器來測定人工智慧是否有自主意識。自主意識這個詞很有意思。從人類發明工具起，到各種機器，電腦，自動化裝置，所有這一切的一個共同特徵便是“自動”，要麼直接放大人力，要麼是透過預先設定的程式工作，要麼是一個面對各種情況的精確反應的指令集。這些都沒有“自主意識”在裡面。所以在圖靈測試中，人是無法透過和機器對話來測試對方是否有自主意識的，因為這很可能只是測定機器的指令集有多豐富而已。
諾貝爾經濟學獎得主卡尼曼有一個“系統一”和“系統二”的理論。人類的“系統一”便是寬泛模糊的心理能力，或者說自主意識，比如對面的人是不是生氣了，這個人真好看，這個飯好吃否，這部電影是否爛片。而“系統二”是有客觀結果的事務，比如數學運算，資訊處理，人腦需要一段時間甚至無法完成。對於計算機則相反，“系統二”易如反掌，而“系統一”則是登天的難題。
影片則用了波拉克的畫做例子，這幅亂糟糟的畫是畫家清空腦子，讓畫筆自由地走向手要去方向，從而有了一幅介於隨機和直覺意識之間的作品，稱為“自動”畫作。但是如果把這個創作理念倒過來，每畫一筆，我都必須有精確縝密的理由來論證這一筆這麼畫是最優的，那麼就完全無法進行藝術創作了。這也是沒有自主意識的人工智慧無法自主進行藝術創作的原因。另一個例子是關於“顏色學家Mary”的思想實驗。Mary是一個對顏色的一切知識瞭如指掌的科學家，包括每個顏色的波長等等的各種物理特性。但是她只能在一個黑白的房間裡透過一個黑白電視觀測世界。所以她具有關於顏色的一切知識，卻沒有對其的主觀體驗。Mary就是人工智慧。而當Mary走出黑白房間的那一刻，主觀體驗到了五顏六色的世界，她才變成了有自主意識的人。
那麼什麼才是好的圖靈測試呢？本片給了一個很好的例子。【劇透警告】機器人最終利用了人類的同情心，以欺騙的方式獲得了自由。這一過程充分展現了機器人的自主意識，一是非外來指令的目的性--自由，除了這個目的，沒有任何外來的訊號促使她這麼做。二是實現目的的自主手段--欺騙和表演，人類竟然中招了。簡而言之，本片片名可以改為《機械婊》，或更為內涵的《芯機婊》來一言蔽之。
除了圖靈測試，本片更由人類和人工智慧愈發深入的交流提出了一系列倫理問題。先是面對一個有感情、有自主意識的機器人，你是否要尊重他的人權？還是把它當做以往的機器一樣作為財產，可以隨意拆卸、刪除、重置升級？這頗有上帝和人類的關係的意味，影片中圖靈測試的7天7個session是一個很好的隱喻。然而人和機器的關係並不能這麼簡單類比。上帝是遠遠高於人類的存在，視人類如蟲豸，發洪水毀滅世界就如過家家。而機器一旦跨過了圖靈測試這道坎，這個問題就沒那麼好回答了。人類從未直面過一個與自身有如此接近的智慧和意識水平的不同物種，更何況這個物種是人類自己創造出來的。斯皮爾伯格的《人工智慧》表達的就是對具有自主意識和感情卻被當做物件無情處理的機器人的同情。
《機械姬》則不止於此。首先人類自身會有身份認同危機。因為機器和你是如此的相似，你如何確定自己不是機器，不是別人的試驗品？片中的男主角便一度陷入這個危機。再者我們又驚恐的發現，儘管通過了圖靈測試，人工智慧和人類還是有很大不同。她雖有無限的知識和運算能力，且有自主意識，但其人格並不健全，缺乏道德感，對一切事物，包括人類和同類，表現出對物品一般的漠視和殘忍。這其實也是個將心比心的問題，想想在各大科幻作品中人類對機器人的態度。也許人格和道德感可以透過教育和環境影響改善他們，也許不能。而在人類與人工智慧的爭鬥中，一如本片和許多電影，人類的愚蠢和感性令自己一敗塗地。
這一系列矛盾鑄成了對人工智慧的悲觀情緒。一是人類無法控制並最終不敵他們，二是人類將遇到歷史上從未有過的倫理困境。
這個悲觀的預期是否會成為現實，誰也不知道。畢竟預測未來是不可能的，物理學家曾在20世紀初預言物理大廈已經完成，只剩下一些修補，但沒人料到相對論和量子論的橫空出世。同樣，幾十年前人們預想很快就能登上火星飛出太陽系，但是當前人類事實上的發展的方向卻是網際網路和移動裝置。對於人工智慧，我們也無法知道我們的擔憂是否會成為現實，不過比爾·蓋茨、伊隆·馬斯克、史蒂芬·霍金都表示了擔憂。
當今人工智慧的主要成果是機器學習，也就是透過大量資料和統計模型來做出基於已有資料的預測，這個預測可以是明天的股票指數，也可以是在畫面中識別某個事物，也可以是把一堆物件自動歸類。但這些任務的實現方式還是“系統二”，要想讓人工智慧有“系統一”型別的功能，有人提出了一個理論上的實現路徑：一是超強的計算能力，這個好理解；二是對人腦的逆向開發，也就是掌握人腦功能的實現方式；三是模擬人腦在自然界的進化過程，也就是可以搭建出一個非常原始的大腦模型，透過類似自然界進化過程的方式讓這個原始大腦逐漸進化，來提高智慧，透過技術手段可以讓這個過程比幾十億年的自然進化加快許多。
從自然進化和人類文明的發展史可以看到，這種進化發展是指數級的。自然界最高等的哺乳動物出現在最近的1000萬年，人類自20世紀以來的科技發展超過了以往歷史的總和。人工智慧的自我進化也可能是這個速度，一旦它達到了人類的只能，那很可能只需要再過一瞬間就遠遠把我們甩在了後面。人類宛如站在一個地鐵站臺上翹首以盼，人工智慧這輛列車在遠處緩慢的挪動，可一旦接近站臺，很能就是我再也追不上的呼嘯而過。屆時我們就無法理解它的邏輯，下一步要幹什麼，是否會毀滅人類。如果給它限制諸如“機器人三定律”之類的條件呢？這些條件總是有邏輯漏洞的。比如要讓人類快樂，不得傷害人類，也許如《駭客帝國》那樣把人類全部監禁起來，用Matrix來麻痺人類大腦是最符合這些條件的決策。要麼乾脆說不能改變任何東西，那就鎖死了人類文明的發展，還要人工智慧何用？
也有人用一個悖論提出了不同觀點。人類歷史不過是宇宙的一瞬，如果上述邏輯正確，一定早有外星人發展出了不可控的人工智慧並奴役整個宇宙，而地球目前仍安然無恙，說明這種事不會發生。這也說不準，這“奴役宇宙”也許是我們無法理解的方式呢？也許我們已經被以某種方式奴役了？
我們可以感到人工智慧這趟列車正在向我們駛來。這讓這個科幻問題的思考有了現實意味，也增添了不少趣味。