未來機器人有自主意識,機器人殺人怎麼判?我們殺機器人算犯罪?
●0.7級文明社會過N年後到達Ⅰ級文明後，才能夠製作出具有自我意識的機器人。未來的具有自我意識機器人不會殺人。都會和諧相處。根本沒有必要擔心這種事情。
●在電影《我,機器人》中,有一臺叫VIKI的主計算機,它控制著城市的基礎設施。VIKI被賦予保護人類的命令。但透過研究人類如何對待其他人類,計算機得出的結論是人類最大的威脅是人類本身。它透過數學計算決定,保護人類的唯一方法就是控制人類。
另一個例子是邁達斯國王的故事。他向狄俄尼索斯要求獲得點石成金的能力。這種力量起初似乎是一條通往富裕和榮耀之路。但後來他無意中碰了他的女兒,他的女兒變成了黃金。他的食物也因此不能吃了。最後邁達斯國王發現自己成了他所祈求的禮物的奴隸。威爾斯在他的短篇小說《能夠創造奇蹟的人》中探索了類似的困境。一天,一名普通職員發現自己擁有驚人的能力。他所有的夢想都能成真。深夜他和朋友出去喝酒,沿途一路都在創造奇蹟。因為他們希望夜晚永遠不會結束,所以他天真地希望地球停止轉動。瞬間盈烈的風和洶湧的洪水都降臨到他們身上。人類、建築物和城鎮以每小時1000英里的速度被拋向太空,這正是地球自轉的速度。在意識到自己毀滅了這個星球后,他最後的願望是讓一切恢復正常,就像他獲得這種能力之前那樣。
在這裡,科幻小說教我們謹慎行事。當我們開發人工智慧時,也必須仔細檢查每一個可能的後果,特別是那些可能不會立即顯現出來的後果。畢竟,正是這種能力使我們成為人類。
●到那個時候，創造出具有有自我意識的機器。為了創造有自我意識的機器,我們人類需要賦予它們目標。目標不會神奇地出現在機器人身上,而是必須從外部程式輸入。這是機器反抗人類的一個巨大障礙。以1921年的舞臺劇R.UR.為例,它最早使用了“機器人”這個詞。這部舞臺劇描述了機器人反抗人類的場景,因為它們看到其他機器人被虐待。要實現對人類的反抗,機器需要有高水平的預程式設計序。除非得到指示,否則機器人不會有同情、痛苦或想要控制世界這樣豐富的感情。但為了進行論證,我們可以說,有人給機器人輸入了消滅人類的目標。然後,計算機必須對未來進行現實的模擬,並將自己置於這些計劃之中。現在,我們遇到了關鍵性問題。為了能夠列舉出各種可能的情景和結果,並評估它們的真實程度,機器人必須瞭解數以百萬計的常識規則-那些我們習以為常的物理、生物學和人類行為的簡單法則。此外,它還必須瞭解因果關係,並預測某些行為的後果,而人類從幾十年的經驗中學習這些定律。我們的童年之所以那麼長,原因之一是有太多關於人類社會和自然世界的微妙資訊需要被吸收。但機器人還沒有接觸到基於共享經驗的絕大多數互動。
我想用一個有經驗的銀行搶劫犯作為例子。這名搶劫犯之所以能 “高效地”計劃下一次搶劫,並且比警察更聰明,是因為他有很多關於之前銀行搶劫案的記憶,並且能夠理解他所做的每一個決定產生的後果。相比之下,要完成一個簡單的動作,比如把槍帶進銀行,計算機必須分析一系列複雜的二級事件。這些事件多達數千件,而且每一件都涉及數百萬行計算機程式碼。所以計算機不會從本質上把握因果關係。
當然,機器人有可能具有自我意識以及危險的目標,但你會發現為什麼這種可能性很小,尤其是在可預見的未來。這是因為向機器輸人摧毀人類需要的所有方程式將是一項極其艱鉅的任務。要解決殺手機器人的問題,很大程度上可以透過防止編寫讓它們具有對人類有害目標的程式來實現。當自動機器人真的到來時,我們必須增設一個保障來保護晶片,在它們有對人類致命的想法時將其關閉。我們可以放心地確認, 自己不會被關進動物園,不會讓機器人繼任者從柵欄外向我們扔花生,讓我們跳舞。
未來機器人有自主意識,機器人殺人怎麼判?我們殺機器人算犯罪?
●0.7級文明社會過N年後到達Ⅰ級文明後，才能夠製作出具有自我意識的機器人。未來的具有自我意識機器人不會殺人。都會和諧相處。根本沒有必要擔心這種事情。
●在電影《我,機器人》中,有一臺叫VIKI的主計算機,它控制著城市的基礎設施。VIKI被賦予保護人類的命令。但透過研究人類如何對待其他人類,計算機得出的結論是人類最大的威脅是人類本身。它透過數學計算決定,保護人類的唯一方法就是控制人類。
另一個例子是邁達斯國王的故事。他向狄俄尼索斯要求獲得點石成金的能力。這種力量起初似乎是一條通往富裕和榮耀之路。但後來他無意中碰了他的女兒,他的女兒變成了黃金。他的食物也因此不能吃了。最後邁達斯國王發現自己成了他所祈求的禮物的奴隸。威爾斯在他的短篇小說《能夠創造奇蹟的人》中探索了類似的困境。一天,一名普通職員發現自己擁有驚人的能力。他所有的夢想都能成真。深夜他和朋友出去喝酒,沿途一路都在創造奇蹟。因為他們希望夜晚永遠不會結束,所以他天真地希望地球停止轉動。瞬間盈烈的風和洶湧的洪水都降臨到他們身上。人類、建築物和城鎮以每小時1000英里的速度被拋向太空,這正是地球自轉的速度。在意識到自己毀滅了這個星球后,他最後的願望是讓一切恢復正常,就像他獲得這種能力之前那樣。
在這裡,科幻小說教我們謹慎行事。當我們開發人工智慧時,也必須仔細檢查每一個可能的後果,特別是那些可能不會立即顯現出來的後果。畢竟,正是這種能力使我們成為人類。
●到那個時候，創造出具有有自我意識的機器。為了創造有自我意識的機器,我們人類需要賦予它們目標。目標不會神奇地出現在機器人身上,而是必須從外部程式輸入。這是機器反抗人類的一個巨大障礙。以1921年的舞臺劇R.UR.為例,它最早使用了“機器人”這個詞。這部舞臺劇描述了機器人反抗人類的場景,因為它們看到其他機器人被虐待。要實現對人類的反抗,機器需要有高水平的預程式設計序。除非得到指示,否則機器人不會有同情、痛苦或想要控制世界這樣豐富的感情。但為了進行論證,我們可以說,有人給機器人輸入了消滅人類的目標。然後,計算機必須對未來進行現實的模擬,並將自己置於這些計劃之中。現在,我們遇到了關鍵性問題。為了能夠列舉出各種可能的情景和結果,並評估它們的真實程度,機器人必須瞭解數以百萬計的常識規則-那些我們習以為常的物理、生物學和人類行為的簡單法則。此外,它還必須瞭解因果關係,並預測某些行為的後果,而人類從幾十年的經驗中學習這些定律。我們的童年之所以那麼長,原因之一是有太多關於人類社會和自然世界的微妙資訊需要被吸收。但機器人還沒有接觸到基於共享經驗的絕大多數互動。
我想用一個有經驗的銀行搶劫犯作為例子。這名搶劫犯之所以能 “高效地”計劃下一次搶劫,並且比警察更聰明,是因為他有很多關於之前銀行搶劫案的記憶,並且能夠理解他所做的每一個決定產生的後果。相比之下,要完成一個簡單的動作,比如把槍帶進銀行,計算機必須分析一系列複雜的二級事件。這些事件多達數千件,而且每一件都涉及數百萬行計算機程式碼。所以計算機不會從本質上把握因果關係。
當然,機器人有可能具有自我意識以及危險的目標,但你會發現為什麼這種可能性很小,尤其是在可預見的未來。這是因為向機器輸人摧毀人類需要的所有方程式將是一項極其艱鉅的任務。要解決殺手機器人的問題,很大程度上可以透過防止編寫讓它們具有對人類有害目標的程式來實現。當自動機器人真的到來時,我們必須增設一個保障來保護晶片,在它們有對人類致命的想法時將其關閉。我們可以放心地確認, 自己不會被關進動物園,不會讓機器人繼任者從柵欄外向我們扔花生,讓我們跳舞。