艾薩克·阿西莫夫（Isaac Asimov）的機器人學三定律大概是有史以來最著名、最有影響力的科幻小說機器人行為準則。阿西莫夫認為，隨著機器的自主性越來越強，在人類生活中發揮的作用越來越大，我們需要更加堅定明確的監管，來確保它們不會給我們帶來傷害。

1. 機器人不得傷害人類，或因不作為使人類受到傷害。

2. 除非違背第一定律，機器人必須服從人類的命令。

3. 除非違背第一及第二定律，機器人必須保護自己。

這些法則的提出可以追溯到1942年，當時阿西莫夫的第一篇作品《我，機器人》出版。如今，隨著人工智慧、軟體自動化和工廠機器人技術的興起，機器及其製造者可能會帶來的危險變得更加複雜和緊迫。

在最近出版的一本新書《新機器人法則：在人工智慧時代捍衛人類專業技能》(New Laws of Robotics: Defending Human Expertise In the Age of AI)中，布魯克林法學院的教授（本書作者）弗蘭克·帕斯奎爾（Frank Pasquale）提出，在阿西莫夫原有的三條法則基礎上應該增加四條新的法則，具體內容如下：

1. 數字技術應該 「輔助專業人士，而不是取代他們」

2. 人工智慧和機器人系統 「不應該假冒人類」。

3. 應防止人工智慧加劇 「零和軍備競賽」。（對，就是我們說的“防止內卷”）

4. 機器人和人工智慧系統必須強制 「表明其創造者、控制者和所有者的身份」。

Pasquale提到，如果遵循這些法則，那麼就有可能利用這些技術來豐富各行各業的工作，而不是取代它們，特別是在醫療保健和教育領域。他認為，要實現這一點，政策制定者和監管機構必須採用民主化的方法來制定相關的法律條文。他在書中寫道，監管機構需要制止「控制、侮辱和欺騙無辜民眾的自動化」，「我們不僅需要更多的人工智慧，還需要更好的人工智慧」。

此外，Pasquale在接受採訪時講述了他為什麼要更新阿西莫夫的三大定律，以及這背後的原因等。Pasquale下面回答的內容將幫助我們更加深入的瞭解這些新法則。

「《WestWorld》劇照」

為什麼需要更新阿西莫夫的三大定律

Pasquale認為，阿西莫夫的法則是關於機器人不要虐待人類，這一點非常重要。但考慮到當下和將要面臨的未來，則需要更多的想法，需要確保人類對技術發展的持久和民主化控制。

就拿醫學領域來說，10年前，就有人認為機器人來了，醫生應該有危機感。因為機器人具有很好的模式識別能力和資料處理能力，很可能會取代醫生。他們還特別強調，"如果你是放射科、麻醉科、面板科、病理科領域的醫生更應該注意，因為這些東西都只是模式識別，而機器人或人工智慧能夠快速獲取數百萬張正常和病變組織的影象，會比你做得更好。"

這裡面有一個問題是：儘管機器人具有超強的資料處理能力，但依然需要從人身上獲取這些資料。也許最終機器人可以獨立完成這些工作，但即便可以，它也不會取代任何一個職位。在很多方面機器人都是對人的補充，並且應該繼續保持這種狀態。

例如面板科醫生，即使有一個可以識別痣的應用程式，病人仍然要和一個真正的人溝通。比如這是假陽性或假陰性的可能性有多大？這顆痣是否需要切掉等等，這些都是人類要做的關鍵決策。

新法則在實踐中如何運作的具體例子

以第一條新法則為例，關於職業和人工智慧的互補。機器人不應該被授予教師資格，師者，傳道授業解惑也。機器人或人工智慧可以有類似於授業解惑的功能或技術，就像醫生開處方一樣，但這些功能都是非常侷限的。不管是人工智慧的教師還是課程，都無法取代真正的教師，這就是互補定律在起作用。

第二條新法則，"不偽造人性"。例如，任何線上機器人，都要明確標明是機器人。這個對於機器人的第三條新法則來說也是一個很好的例子。如今都在搶抓線上注意力，某種程度上線上機器人得以擴張，因此可以採取一些立法或行政行動來阻止機器人之間的注意力軍備競賽。

第三條新法的重點是防止機器人加劇軍備競賽，但並不侷限於軍事問題

生活中很多領域都在受到技術的控制，科技巨頭利用人工智慧技術讓人們陷入激烈的競爭並從中獲利。信用評級就是一個很典型的例子，有了演算法的支援，貸款人可以給予借款人抵押貸款的折扣，但條件是獲取借貸人手機的各種許可權，或是獲取更多關於個人的資料。又或是佩戴某種可穿戴裝置，可以使用人工智慧來計算和評估個人的健康狀況。

這種對越來越多資料的不斷渴求，本身就是科技公司之間的軍備競賽。它在個體之間掀起了一場軍備競賽，為了獲取更加個性化的定製服務，人們需要提供越來越多的關於自己的資料，以將自己與他人區分開來。當一個人因提供更多資料獲得折扣時，這並不是出於公司的善意，因為另一個人可能會被收取更多的費用（ps：經常被提到的大資料殺熟就是這樣）。

最後一條新法則為什麼很重要

從本質上說，這是為了阻止人工智慧成為人類的自主想法或願望。幾乎所有的科幻小說或是關於未來的展望都是創造出像人類一樣擁有自主思想的機器人，很多科幻影視劇也表現了這樣的主題，但這種事情是絕對不應該發生在現實生活中的。

「《WestWorld》劇照」

因此，任何被創造出來的機器人或是人工智慧，都需要能夠追蹤到它們的主人或控制器，他們可以在任何時候，關閉它們或以其他方式改變它們的行為。在這一點上，它們不是自主的，而我們只是限制了人工智慧的自主性，但並沒有完全消除它。

這一點非常重要，可以想象這樣一個場景：一個機器人或無人機或是其他的東西可以接近我們，而我們卻不知道它們在做什麼，也不知道它們為什麼要這麼做，這是非常恐怖的。所以，當我們被無人機或機器人接近時，我們應該能夠用手機對著它，然後立即收到一些類似於「這是所有者」、「這是你可以投訴的人或機構」等資訊，就像網站上的侵權投訴一樣，如果所有者沒有迴應，可以向該機構投訴。

人工智慧和機器人技術的創造者是否需要對它們最終的用途承擔責任

舉個例子，我們不應該對一個哭泣的機器人感到不安或是同情，因為它也可以被程式設定為嘲笑任何讓它哭泣的東西。在這一點上我們必須保持冷靜，因為情感計算這個新興領域在很多方面都可能是大公司想要透過技術的中介效應來操縱和控制人類的前奏。

因此，機器人學家和人工智慧工作者需要為他們創造的機器或軟體的可塑性和靈活性承擔相應的責任，否則很容易被惡意改寫和利用。

人工智慧和自動化對藍領工作的影響

「Amazon Go無人便利店」

這是一個很有意思的問題，比如收營員的工作，當一個收營員盯著商店四個售貨機時，你可以說這讓四個人失業了，也可以說這讓其中一個人的工作效率提高了，因為他負責管理這些機器，修理機器或做其他的事情確保其正常有效的執行。但最終，政策不應該阻礙自動化，當然，也應該讓處於這個崗位的人有權表達自己意見和訴求。

人類為什麼想要創造出模擬人類的機器人和人工智慧

「製造像人類一樣的機器人」的想法主要源於後人類或超人類的觀點。後人類的觀點是：「儘管人類在地球上生存得很好，但人類的大腦太慢了。而機器人有更快的處理器，他們可以理解更多的東西，做更多的事。」

「《Ex Machina》劇照」

而超人類主義者會說：“如果你想超越人類的侷限性，你可能就得超越人類的身體。" 而這其中一部分就是進入機器人領域，與他們融合，諸如此類。而Pasquale的觀點是，超人類主義和後人類主義的觀點終究都是非常反人類主義的。

在某種程度上，作為人類的一個基本要素是接受和理解我們的侷限性和弱點。而為了克服和超越這些侷限性和弱點而做出的努力，並且把一個不朽的實體作為高於人類和超越人類的觀點是有問題的。它涉及到拒絕我們是凡人的事實，我們會感到痛苦。

除了Pasquale提出的四條新法則之外，還有一些對三大定律的補充，分別如下：

第零定律：機器人必須保護人類的整體利益不受傷害，其它三條定律都是在這一前提下才能成立。

第四原則：機器人在任何情況下都必須確認自己是機器人。

另一個第四原則：機器人必須進行繁殖，只要進行繁殖不違反第一原則、第二原則或者第三原則。

第五原則：機器人必須知道自己是機器人。

羅傑·克拉克(Roger Clark)提出的8條原則

元原則：機器人不得實施行為，除非該行為符合機器人原則。

第零原則：機器人不得傷害人類整體，或者因不作為致使人類整體受到傷害。

第一原則：除非違反高階原則，機器人不得傷害人類個體，或者因不作為致使人類個體受到傷害。

第二原則：機器人必須服從人類的命令，除非該命令與高階原則牴觸。

機器人必須服從上級機器人的命令，除非該命令與高階原則牴觸。

第三原則：如不與高階原則牴觸，機器人必須先保護上級機器人，再保護自己之存在。

第四原則：除非違反高階原則，機器人必須執行內建程式賦予的職能。

繁殖原則：機器人不得參與機器人的設計和製造，除非新機器人的行為符合機器人原則。