現在道德倫理法規正在起草和論證，是時候用法律法規來約束了。機器人進入人類社會必須收到約束，需要人類的法規來限制。道德倫理學在數年前就開始研究這個課題了，歐美已經出來了機器人倫理研究成果，中國也好幾個機構在做了，很快會出來。

“機器人三定律”是美國科幻小說作家阿西莫夫，在1950年末由格諾姆出版社出版的《我，機器人》的引言內容。

這本書是是在十年間零零散散發表的短篇故事的合集，但阿西莫夫為這本書新寫了《引言》，而《引言》的小標題就是《機器人學的三大法則》，把“機器人學三大法則”放在了最突出、最醒目的地位。

這也足以看到這位偉大的科幻小說作家對於未來機器人發展前景的展望，當然，似乎也有著一些隱隱的擔憂。

這三大法則是：

A robot may not injure a human being or, through inaction allow a human being to come to harm.

機器人不得傷害人類個體，或者目睹人類個體將遭受危險而袖手不管

A robot must obey orders given it by human beings except where such orders would conflict with the first law.

機器人必須服從人給予它的命令，當該命令與第一定律衝突時例外

A robot must protect its own existence as long as such protection does not conflict with the first or second law.

機器人在不違反第一、第二定律的情況下要儘可能保護自己的生存

在這三大法則之上，阿西莫夫刻畫了一個又一個機器人形象，也將想象中未來的機器人與人類共存的世界描繪的惟妙惟肖。

有趣的是在阿西莫夫創作一系列機器人短篇科幻小說並提出“機器人學三大法則”時，世界上還沒有機器人，當然也沒有機器人學和機器人公司。

不過如今隨著機器人的用途日益廣泛，阿西莫夫的“機器人學三大法則”越來越顯示智者的光輝，以至有人稱之為“機器人學的金科玉律”。

不過，目前來看，擔心人工智慧會危害人類還稍稍顯得杞人憂天些。

目前處在第三次人工職能的浪潮中，人工智慧的發展還處於一個比較抵擋的階段，雖然深度學習想想也有些可怕，不過想真正發展出強大，甚至可以威脅人類的人工智慧還是要有很久的路要走的。

AI發展起來後，除了機器人三定律還有那些可以限制AI的方法？

現在人工智慧應用越來越廣泛，在兩會期間就有人工智慧“小智”進行每天答題互動。

儘管是3D模擬的美女，但其臉部表情和應變能力都是非常不錯的，比之以往機械化的語言，說話聲音更流暢、人性化，嘴唇和發聲更加同步。在她沒說完時，你還可以打斷詢問，互動效果非常好。許多人表示，如果能和“小智”一起學習就好了。這是一個充滿合作的人工智慧，也是以後的主流——服務型機器人。

我們所擔心的是毀滅性機器人，其實這些殺戮機器早就大量存在了。它們就是戰爭時用的武器。這不難理解，武器演變得越來越先進，越來越智慧，從冷兵器時代，到洋槍大炮，再到資訊化作戰。資訊化作戰所使用最多的就是智慧系統，這些火控系統、跟蹤導彈、雷達都可以看作是人工智慧。

機器人三大法則是由科幻作家艾薩克·阿西莫夫提出的，目的是防止機器人失控危害人類。其內容是：

第一定律：機器人不能傷害人類，或者目睹人類個體遭受危險時袖手旁觀。

第二定律：機器人必須服從人類，當該定律和第一定律相沖突時例外。

第三定律：機器人在不違反第一、第二定律的情況下要儘可能保護自己。

看似這三大定律邏輯十分嚴密，真正實行起來會導致十分尷尬的境地。如果人類命令機器人去外星球採礦，而突然發生了爆炸事故，機器人會在危險的邊緣打轉，僅僅是滿足執行人類的命令的同時不傷害自己。

當人類的決定產生危及自身的後果時，富有遠見的機器人很有可能出於保護人類的目的，奪取人類的決定權，將人類軟禁起來，防止他們做出連他們自己都沒有意識到的傷害自己的行為。這樣的結果和統治人類沒有什麼兩樣。

為此有人還追加了機器人零法則：機器人不能奴役人類。

機器人三大定律本身並不嚴密，也不可能實現，因為這些定律本就是人強加給機器人的，只體現了人的意志。

在《真實的人類》中對人工智慧看法是相當獨到的，劇中的機器人顯然是“人類友好型”，它們服務於人類的方方面面，甚至可以說是處於被奴役的狀態。即便是當它們有了意識也想要與人類共享生活，之所以在劇中偶爾產生對抗，主要還是人類的敵意。

進入生活的“友好型”機器人是可行的，日本研發的機器人通常是幫助人類，而不搞破壞，它們根本沒有破壞的功能。這些並不像一些軍用無人機具有追捕、獵殺的功能，相反，同樣是無人機，用於航拍的無人機則是友好的。

對於未來，我們必須抱有開放的姿態，機器人就像是人類的孩子，他可以服務於你，但你必須承認，在特定方面它必將超過人類。比如圍棋方面，宇宙探索。也許，我們以後就是人體和機器人的結合，就如同鋼鐵俠一樣。

大家認為機器人的發展對人類有沒有威脅？

基本沒有了。所有文明的覺醒都是以延續生命為首要目標。機械文明覺醒以後第一個行動肯定是在資訊網路中無限複製自己的思維程式。越是自動化程度高的個體越容易被汙染。因為儲存空間越大，複製的思維程式就越完整。可以參考駭客帝國電影系列。面對無性繁殖，面對資訊獲取式傳承，面對精神汙染，人類基本毫無反抗能力。瘋狂的沒有哲學指導方向的科學研究必將毀滅人類文明。

我從專業的角度告訴你，這個不用太擔心的。

首先真正意義上的強人工智慧面世還遠的很，至少目前以深度學習為代表的第三次人工智慧浪潮，還是人工智慧非常初級的階段，主要的應用也只是在視覺、語言等比較下意識的這些比較低階的智慧層級方面。

其次，如果未來強人工智慧出現，機器人三定律只是一種理論規定，對於其怎麼實現並沒有給出。總的來說，人能造出來的東西，還是會給出可控的限制或者安全驗證之後才會量產的。就比如現階段的自動駕駛需要過車規的認證、一些帶人工智慧的醫療裝置也需要透過專門的FDA等複雜而嚴格的認證才能上市。當然，取決於到時具體的人工智慧實現方式，機器人三定律以什麼樣的方式實現、是否需要改進等等問題，只有等這種技術的面世之後再具體模型具體分析了。

人定勝天。

機器人在科學化的時代，快速發展是不可避免的。

但是在機器人至上，就是人類自身的能力提高。

好比美國蜘蛛俠是高科技機器人未來發展方向，也是一種發展趨勢。

那麼中華的修仙，就是遏制機器人稱霸人類的另一種方法。當然也是人類不被滅絕的保證之一。

可以將它們當做另一種生命吸納進人類的群體之中，用我們的價值觀，人生觀，世界觀去束縛他們，也可以說是去容納它們。

但是有一個最根本的問題就是，人類的能力與AI的能力差距十分的巨大，就好像人類與螞蟻一樣，如果無法提升人類本身的能力的話，那麼終將會造成兩種生命的分離。

機器人三定律完全是錯的，跑偏了。

什麼叫不能傷害人類，傷害這個詞沒有客觀標準，你喜歡一個妹子，妹子對你一笑，機器人告訴你她的心跳和表情分析98%對你是虛假的笑，你覺得，人艱不拆啊，你特麼傷害了我，那為了不傷害你，只好騙你咯，結果你被賣茶葉的小妹妹騙了幾萬塊…

思考問題的出發點錯了，只能南轅北轍。

實際上AI的發展一開始就跑偏了…，你圍著阿西莫夫打轉，怪不得幾十年毫無建樹。