首頁>科學>

優秀的科幻作品中所包含的是某種超越時代的精神,只有透過與時代的反覆關聯,才能發掘出其中的現實意義。今年是阿西莫夫誕辰100週年,如何在問題重重的當下重溫其作品、正確認識他的遺產,值得學界深思。中國當前對阿西莫夫的研究不能僅停留在討論他如何尊重科學,或者他的作品如何更好地普及了科學知識、科學精神這樣的話語上,更重要的是,他所擔憂和警惕的問題至今仍然具有現實意義。

撰文 | 吳巖(南方科技大學人文科學中心教授 )、 陳發祥(南方科技大學人文科學中心研究助理)

如何在這樣的年代重溫阿西莫夫的作品、正確認識阿西莫夫的遺產,應該是思想界關心的一個話題。可惜的是,在中國有關這個話題的討論還很少。究其原因,可能是多年以來我們一直把阿西莫夫定位為一個科普作家或科幻作家,認為他的工作是為了維護科學精神,或者撰寫虛構故事以繁榮文化產業。事實上阿西莫夫的作品和個人經歷遠遠超越這樣的定位。

在南方科技大學的想象力與科幻相關課程上,阿西莫夫會被當成一個思想家來介紹,因為他的創作早已超越了作品中所傳遞的科學知識,超越了故事中所虛構的內容,構成了一系列重要的思想。他的科幻作品中思想性最強的,就是他對機器人跟人之間關係的探索,以及被放大到宇宙尺度的大國治理和國際競爭。而他在過往的年代中所擔憂和警惕的問題,至今仍然具有現實意義。

三大定律約束的不單單是機器人

機器人三大定律

任何人都無法繞過阿西莫夫機器人三大定律。這三大定律最早是在阿西莫夫1942年的短篇小說《環舞》中首次被完整提出的。三個定律的內容主要包括:

第一定律:機器人不能傷害人類個體或看著人類被傷害而袖手不管(LawⅠ:A ROBOT MAY NOT INJURE A HUMAN BEING OR, THROUGH INACTION, ALLOW A HUMAN BEING TO COME TO HARM.);

第二定律:機器人必須服從人類的命令,除非這些命令與第一定律衝突(LawⅡ:A ROBOT MUST OBEY ORDERS GIVEN IT BY HUMAN BEINGS EXCEPT WHERE SUCH ORDERS WOULD CONFLICT WITH THE FIRST LAW.);

第三定律:在與第一、第二定律不衝突的情況下,機器人必須保護自己的存在(LawⅢ:A ROBOT MUST PROTECT ITS OWN EXISTENCE AS LONG AS SUCH PROTECTION DOES NOT CONFLICT WITH THE FIRST OR SECOND LAW.)。

在1942年,人類的第一臺“電子數字積分計算機”ENIAC(Electronic Numerical Integrator And Calculator)還沒有問世,有麥卡錫、明斯基、羅切斯特和山農等參加的首次人工智慧討論會也還沒有召開,但阿西莫夫已經憑藉他的科幻作品討論了這一學科的未來發展及其所必定要面臨的重要問題。這個問題就是智慧化時代人工造物研發和生產過程中最重要的方法學和內容範式。只不過,他沒有撰寫論文,而是透過一系列具象的故事,將這些思考、觀念或關懷展現出來。這些思考並非技術實現,在他看來,更重要的是機器人或人工智慧(至少在他的前期著作中無法區分)的發展,必須與社會變化、生產矛盾、人類發展的階段性相互適應。定律約束的不單單是機器人,更是人工智慧研發的階段性狀態下的人類本身。

暗含了智慧機器作為後人類物種的法定性

如果斗膽以今天的觀念表述方式來重新闡述三大定律,在這個意義上,我們認為,第一定律和第三定律主要討論了自主系統的安全、可靠和可信問題。而第二定律則重點提出了“科技向善”和人工智慧研發中的道德底線。當然,這僅僅是一個粗淺的比喻。事實上,每一個定律看起來用詞簡單,但內容覆蓋卻非常複雜,且可能含有多個層次。

例如,第三定律中提到機器人保護自己的安全,這看起來應該是定律中最次要的(放在了最後),但由於暗含了將人工智慧當成一個自主的智慧體的含義,它應該處於三定律中最為核心的位置。只有自我意識產生之後的個體才能保護以我為核心的存在的安全。如果只有第一和第二定律,人工智慧跟受控且不自主的機器沒有兩樣,撰寫這樣的定律根本就是多餘。但由於有第三定律的存在,前兩個定律才得以被納入。

因此,阿西莫夫的定律系統不是從前向後看的,而是從後向前看的。看起來配套齊全而設計嚴謹的第三定律,事實上就暗含了智慧機器作為一個後人類物種的法定性,或者說,從某種意義上獲得了“生理上”的平權。智慧機器一旦在“天生”或“生理”上跟人類具有平等權利,那麼最近幾百年的人類歷史便肯定會在這套人機關係發展線路上重演。

展現的是人類的集體無意識焦慮

在上述意義上觀察阿西莫夫的機器人小說,我們可以把他的作品當成任何一部人工智慧小說背後的一個原型小說。換言之,其基本內容會出現在眾多其他人的作品之中。當我們拆解其他人的人工智慧作品,一旦到達某種深度,我們看到的必將是三定律的展現,而更進一步則必將是第三定律的展現。按照榮格的想法,原型之所以存在,是因為它是構成人類的文化心理基因,展現的是人類的集體無意識焦慮。阿西莫夫則是人類的遠望探頭,在其他人沒有將這種集體無意識解鎖的時候,他已經敏銳地體驗到了這種無意識的深度撞擊。我們相信這種撞擊是反覆的。這就是他撰寫這麼多機器人小說以不斷讓它釋放的原因。

不單單第三定律看起來非常重要,在今天,其他兩個定律也顯得恰逢其時。以第一定律為例,機器人不能傷害人類個體或看著人類被傷害而袖手旁觀。這條定律是人類在人工智慧的設計過程中最可能放縱的部分。由於技術發展過程是小步子的積累,所以,在每一個小步中詢問這種比較終極的問題,人們傾向於感覺好笑和無法回答。加強人工智慧的視覺系統,違反了第一定律嗎?增強他的行動能力違反第一定律嗎?最佳化它的決策系統違反第一定律嗎?沒有。但如果長期組合這些進展,人工智慧一旦抵近自主決策底線,將這些決策付諸行為的可能性就大為增強。因此,毋寧說第一定律是人類最忽視的。所以,即便不是最核心的問題,阿西莫夫仍然把它放在第一位進行撰寫,作為未雨綢繆。對這點,只要看看亞美尼亞和亞塞拜然近期所進行的無人機戰鬥,看看美國在世界各地執行軍事計劃時採用的無人攻擊裝置的行動方式就可以明白。這些裝置中大部分是自主系統,但他們會有差別地攻擊人類!試想,如果這些機器中或者設計過程中有強烈的第一定律的嚴格覆蓋,無人機一旦接到殺人指令的時候馬上癱瘓,今天的政治版圖和軍事版圖是否會是另一種不同的樣子?這些都是無法回答的。我們只是想探問,阿西莫夫在撰寫這一定律的時候是否知道未來的情況一定會超出他的想法,或者,他是否明白人類會因為自身的思維習慣和行為習慣,對這一定律毫不在乎?所有這些都值得阿西莫夫的研究者去進一步從資料中發掘,以便作出回答。

《基地三部曲》:消除冷戰國際關係的全方位思想模擬實驗

如果說阿西莫夫的機器人小說,在迄今至少半個多世紀之前就已經探討了人工智慧帶給人類的焦慮,那麼,他的銀河帝國系列小說又具有怎樣的跨時代意義呢?

銀河帝國系列:對冷戰焦慮的產物

銀河帝國小說就是我們說的“基地”系列小說。這套小說的核心是最早創作的所謂三部曲,即《基地》《基地與帝國》和《第二基地》。這三部曲又由一些中短篇構成,曾經在雜誌發表。但結集時大家常以《基地三部曲》合稱。三部曲的核心當然是《基地》,而且應該是這一系列小說得以生髮的故事最前端。

《基地》講述的是一個有著兩千五百萬顆有人居住的行星的巨大區域,這就是所謂的銀河帝國。帝國處於某種良好的治理狀態長達一萬兩千年。由於管理得當,人民安居樂業,人口的繁殖已經近千兆億。但是,一種橫跨人文與科學交織領域、從心理測量、歷史資料分析到數學公式使用的全新預測方法出現了。預測方法的創立者是心理史學宗師哈里·謝頓。根據他的數學架構,帝國滅亡已經迫在眉睫。在“基地”系列的歷史輪迴思想引導下,謝頓計算出帝國滅亡之後人類將會有三萬年黑暗時期。這真是一個莫大的諷刺。良好的治理僅僅存在了一萬多年,到來的災害叢生且民不聊生的黑暗時代卻長達三萬年。不過,謝頓不是巫師,而是科學工作者。他還計算出,如果人類找到合適的方法出面干預,這種狀態可以被縮短到僅有一千年。

在眾多研究阿西莫夫小說的論文中,阿西莫夫模仿羅馬帝國興亡史建構銀河帝國未來史的說法特別流行。此外,從宿命論、歷史決定論角度探索他的哲學起源的作品也很多。所有這些說法都是很有啟發性的。但如果考慮創作的時代背景,就可以很明顯地看到,這部小說其實是對冷戰焦慮的產物,是對世界改變面貌、變得不再繁榮的焦慮的產物。  我們實驗性地把謝頓領導的基地跟外部提供強大壓力的帝國力量對等起來(事實上作者就是這麼對等的,且在結尾讓帝國的治理方式被基地的治理方式所取代),可以觀察到小說中冷戰(在作品中是弱小一方面對強大一方)各方所採取的完整策略的展現。考慮到基地跟帝國自始至終沒有發生大規模的戰爭,在這個意義上,無論阿西莫夫有沒有意識到,《基地三部曲》就是對冷戰或消除冷戰國際關係的一種全方位思想模擬實驗。使命感驅使著的謝頓和他的追隨者在銀河系的邊緣建立起端點星。端點星是一個基地,用來面對強勢的銀河帝國。敵強我弱,遠走他鄉的端點星居民韜光養晦,他們一方面看群雄崛起、鷸蚌相爭,另一方面極力保留自己的空間並積蓄實力。隨著力量的此消彼長,他們不但會在恰當的時候採用商業規律制衡對手,更會以科技展現出的實力來制勝對方。在國際關係中他們巧用連橫合縱,更懂得要等待對方自身的弱點爆發。他們理解人的重要性。面對顛覆性創新,他們巧用人文和社會科學,最終戰勝了敵人。

未雨綢繆是戰略成功的關鍵

阿西莫夫在銀河帝國小說中最讓人欽佩的,是他對時間、時機、實力等概念的使用。要在時間上將三萬年壓縮到一千年是小說中端點星人的目標所在。如果說今天的世界正在逐漸陷入冷戰的窠臼,那麼阿西莫夫的思路是否提供了一種解決問題的方案?從長遠的發展上去理解和思考時間,他提出讓強勢在時間中化為弱勢。所有這些都值得今天的國家管理者去認識和思考。

時機是“基地”系列小說中另一個重要的概念。從謝頓跟帝國之間的交涉,到謝頓給端點星設定的發展階段,到每一個階段的處置方式,都透露著對時機的把握和運用。在故事中,凡是把握好的時機都會帶來自身的成長,反之則是魯莽的失敗。為了強調時機,阿西莫夫還採用錦囊妙計的方式,給後人以方針政策,讓他們站穩腳跟、面對強敵。  相比時間和時機這種完全無法控制只能把握的因素,阿西莫夫更強調可控因素的掌控,認為這才是戰略成功的關鍵因素。從編纂《百科全書》去保全知識,到透過端點星保全人才,再到透過運作去儲存實力,未雨綢繆是小說中蘊含的戰略成功的關鍵。沒有對基地的設計,就沒有第一波戰略緩衝時間的獲得,而沒有對第二基地的設定,就無法在新危機出現的時候做出合理和緊急應對。  從戰略思維、冷戰、國際關係等方面去研究“基地”系列小說,能得到許多管理學和戰略科學方面的啟示。我們甚至可以引用華為和鴻蒙作為例子。略微有點遺憾的是,阿西莫夫站在上一次冷戰的開始節點對未來的一系列看法,並沒有被上一次冷戰的參加者所認真理解,這是一個巨大的損失。但如果現在我們坐失良機,忽視他作品中的含義,可能也會在未來後悔。  雖然我們還沒有看到更多關於阿西莫夫作品跟冷戰關係的論述,但有些故事可以作為佐證。在上世紀60-80年代,西方科幻作家的政治觀點分野明顯。羅伯特·海因萊因是主戰的,而阿西莫夫和克拉克、波爾等是主和的。主戰派覺得意識形態之間應該決一死戰,主和派則認為,國際秩序需要透過友好的協商來確定,需要透過理解對方,共同增進人類福祉來解決。主和派中的阿西莫夫不喜歡坐飛機,所以沒有能參加在日本和歐洲分別舉辦的、溝通東西方作家關係的科幻大會,但他還是身體力行地發表文章,透過民間對另一個世界表示友好,在這些方面做了許多工作。我們覺得,恰恰阿西莫夫這樣的有社會責任感且有智慧的作家,主張透過非戰爭手段進行社會建構,會在一定程度上影響到上層決策者,阻止了他們將這場冷戰發展成熱戰的程序。而阿西莫夫提倡的用溝通、發展、尊重科學等方式去解決當前問題的做法,至今仍然是維護國際關係的一個標準的、益多害少的做法。

技術-文化-社會-個體複雜關係的具象化

阿西莫夫除了兩個備受推崇的系列小說之外,還有大量未被納入兩大系列的小說,這些小說也有豐富的現實意義。《黃昏》中強調,對災難過程要多做社會動力學分析,才能更好地處置災難。《他們的樂趣》和《醜小孩》中對教育技術化帶來的人類情緒困擾和天才兒童教育中發生的問題多有預警。《最後的問題》中暗含的對強人工智慧產生的非圖靈式測試的可能性。《奇妙的航程》中探索的奈米生物醫學治療,可以作為未來維持人類健康的良好輔助。所有這些都是技術-文化-社會-個體之間複雜關係的故事化具象化展現。對這些小說我們需要做單獨處理,一個一個地分析其中含有的時代價值。  在阿西莫夫誕辰100週年之際,我們想說,中國當前對阿西莫夫的研究不能僅停留在討論他如何尊重科學,或者他的作品如何更好地普及了科學知識、科學精神這樣的話語上。優秀的科幻作品所包含的是某種超越時代的精神。這種精神只有透過與時代的反覆關聯,才能發掘出其中的現實意義。在這個意義上,阿西莫夫作為一個人道主義者和未來主義者的特徵才能被徹底彰顯。

4
最新評論
  • mRNA疫苗可誘導對SARS-CoV-2及其多種擔憂的變體的持久免疫記憶
  • 地球內部有個小太陽,以核裂變產生能量,與太陽無關