論“深度偽造”智慧技術的一體化規制

王祿生

內容摘要：“深度偽造”是利用深度學習技術中的“對抗生成網路”模型形成的智慧影片處技術。“換臉影片”是該技術最為典型的應用。與原有技術相比，該技術具有高度真實性、在普適性和快速演化性等特徵。對其濫用不僅將侵犯公民的個人權利，破壞社會穩定與國家安全，甚至還可能消解社會共同的信任。現有技術規制中採用的“溯源防偽”與“反向破解”的方案無法有效應對。現有法律規制中民事、行政、刑事責任因其“事後性”也難以全面覆蓋。下一階段，要在現有技術規制與法律規制基礎之上構建“平臺-製作者-受眾”三位一體規制體系，強化平臺的審查責任、明確影片製作者的說明義務並培養公民在“後真相時代”的資訊素養。

關鍵詞：換臉影片 深度偽造 審查責任 說明義務 資訊素養

2019年3月，技術人員利用“深度偽造”技術“換臉”明星楊冪的事件在輿論上引起熱議。與部分粉絲稱讚技術“逆天”“毫無違和感”形成鮮明對比的是，被“換臉”的楊冪本人的迴應卻顯得頗為低調和耐人尋味。儘管影片製作者第一時間宣稱“主要用於技術交流，並無營利行為”，然而，該技術運用仍然引發各界對侵權甚至是在色情影片中使用的擔憂。就在各界圍繞上述問題展開熱烈討論方興未艾之際，一款叫作ZAO的AI換臉軟體於同年8月底釋出並迅速席捲了中國的網路。實際上，“深度偽造”技術最初名聲大噪於2017年11月。當時，利用技術換臉明星生產的多部色情影片在美國“紅迪網”上傳播並引發各界關注。2018年1月，使用“深度偽造”技術的應用程式正式上線，普通公眾在沒有深厚技術背景的情況下也可以嘗試“換臉”，這進一步加劇了“換臉影片”的傳播。“換臉”的物件也迅速由明星、政客擴充套件到朋友、同學、同事。由於“換臉影片”的迅速傳播，“紅迪網”關閉了有關“深度偽造”技術的討論板塊。據稱該版塊註冊使用者已超過10萬人。其後，聊天應用程式Discord也明確禁止相關影片傳播。與之類似，出道即巔峰的ZAO也在上線3天之後被微信遮蔽訪問。伴隨“換臉影片”傳播的加劇的是對“深度偽造”技術是否以及如何規制的激烈討論。在此背景下，系統地梳理該技術的技術邏輯、技術特徵、應用風險以及規制方式就成為學術界迫切需要回應的問題。

筆者將從技術邏輯切入，闡述“深度偽造”技術特徵及應用風險，分析現有技術規制和法律規制無法有效迴應的根本原因，並從平臺責任、作者義務和資訊素養三個方面構建新的一體化規制體系，力圖最終馴服技術的“巨魔”，將其限制在合理使用的範圍之內。本文探討的內容不僅適用於“深度偽造”技術及其實現的“換臉影片”，同樣適用於未來具有高度真實性的音訊、圖片、影片的系列處理技術。

一、“深度偽造”的技術邏輯

眾所周知，現階段主流的“換臉影片”是透過“深度偽造”技術生成的。“深度偽造”是英文“深度學習”和“偽造”的合成詞。它實質上是一種聲音、影象與影片的智慧處理技術，能夠以極度逼真的方式模仿特定人物或者讓特定人物看起來在做特定的事件，以至於未經過訓練的觀看者通常無法辨別其真偽。

如果拋開具體的稱謂不談，從技術邏輯來看，“深度偽造”依託的是“深度學習”技術，它是包括由相互聯絡節點組成的多層神經網路，可以根據輸入的資料進行自動的計算並完成特定的任務。“深度偽造”的過程就是將圖片、影片等資料“喂”給“換臉演算法”，然後由演算法在訓練的基礎上自動完成換臉操作。詳細而言，就是透過深度學習的演算法，去識別目標人物（比如明星、政治家等）不同角度、姿態與表情的照片，然後不斷訓練從而自動生成偽造的圖片，並將其覆蓋到原有影片人物的臉部，形成“換臉影片”。其實質可以簡單理解為從現有“源資料”（目標人物）中透過演算法生成“新資料”（偽造影片）的過程。理論上，在足夠訓練資料和訓練時間的基礎上，“深度偽造”技術可以把任何人的臉“交換”成製作者想要的任何影片。

當然，能讓“深度偽造”在短時間內名聲大噪，依靠的並非一般意義的深度學習技術，而是採用了其中的一種名為“對抗生成網路”（簡稱為GAN）的模型。與傳統深度學習技術單鏈條相比，GAN引入了“對抗”機制，由兩組神經網路共同進行。其中一組神經網路的演算法定位為“生成器”，它負責基於“源資料”建立目標影象模型，從而生成偽造的影象；另一組神經網路的定位為“鑑別器”，它負責基於真實的目標影象對“生成器”生成的偽造影象進行驗證。每一種演算法都在對另一種演算法進行改進，從而加速訓練的速度，進而生成高逼真度的虛假影片內容。可見，與傳統深度學習單組神經網路相比，“對抗生成網路”類似於不斷演變的貓鼠遊戲，偽造者（生成器）與偵查者（鑑別器）之間不斷透過“對抗”自我最佳化。透過這種“無監督學習”的模式，訓練的資料越多，輸出的效果就越好。對於名人、政治家，由於網際網路上具備足夠多的訓練資料，這就導致“換臉影片”以假亂真。

為了更好地說明“換臉影片”的生成環節，筆者製作了技術示意圖。如圖1所示，“深度偽造”技術大致按照下列順序實現“換臉影片”：第一，從網際網路（通常是搜尋引擎或社交平臺）上獲取給定目標人物（“源”）的影片、影象，從而形成供人工智慧技術訓練的資料集——“源資料”；第二，藉助“對抗生成網路”演算法中的“生成器”，透過神經網路的訓練，生成偽造的影片、影象（“偽造資料”）；第三，“對抗生成網路”演算法中的“鑑別器”將真實的目標資料與“生成器”生成的“偽造資料”進行比對；第四，當判定為“真”時，則可以作為下一步“換臉”的基礎素材；當判定為“假”時，則返回最佳化“生成器”的演算法；第五，選擇合適的影片並將影片中原有人物的臉部影象替換成目標人物的臉部影象。具體而言，就是將影片分解成數百甚至數千幀，然後將透過“鑑別器”鑑別的偽造臉部影象（眉毛、嘴、鼻子和頭部的位置及其動作）一幀一幀地對映到影片原有人物的臉部之上，從而完成“換臉影片”。最初“換臉影片”需要人工挑選合適的待替換影片，但隨著技術的發展，已經可以透過目標人物的影象特徵自主選擇合適的影片。

二、“深度偽造”的技術特徵

影片、圖片的技術化處理或偽造並非新鮮的事項。近年來，隨著PS等技術的普及，對於影象的修飾與篡改已經成為常規現象。“深度偽造”之所以令人擔憂，是因為它是高度真實性、泛在普適性與快速演化性的綜合。“深度偽造”的上述技術特徵將使得潛在造假群體和影片造假能力均呈現指數級躍升。

（一）高度真實性

與一般數字處理技術相比，“深度偽造”技術最為核心的特徵就在於高度真實性，以至於極其難以被發覺。在“深度偽造”技術出現之前，偽造影片具有極高的可識別性。這是因為在很長一段時間內，對於影象、音訊、影片的處理存在技術瓶頸，偽造的影象無法解決光線的細微變化，同時偽造影片在篡改語音時也往往無法準確捕捉差異化人群的節奏和音調。然而，這些瓶頸隨著“深度偽造”技術的產生與發展，業已或正在或終將被攻克。前文在論及技術邏輯時已經強調，“深度偽造”技術是一種“無監督學習”，它透過“對抗生成網路”在自我最佳化中生成偽造的資料。對於這種技術邏輯，只要有足夠的資料和運算速度，理論上生成模型會在“對抗”中持續自我迭代並不斷最佳化偽造影片。那麼一個顯而易見的結果便是，“更大的資料、更好的演算法和定製的硬體”將很快讓這些虛假影片真實得可怕。普通人在未經過專業培訓的基礎之上，很難區分和發現。“楊冪換臉影片”就是一位AI技術愛好者將港版《射鵰英雄傳》（下稱《射鵰》）中“朱茵版”黃蓉的臉換成楊冪。有媒體評論道：“影片中，楊冪的五官與朱茵的表情幾乎全部融合，難辨真假。”此外，瑞士科學家嘗試用最前沿的人臉識別系統去識別“換臉影片”，結果錯誤率高達95%。德國和義大利科學家的聯合研究小組測試了1000段“換臉術”影片後發現，普通人必須透過特殊訓練，才能鑑別真偽。

（二）泛在普適性

與傳統的人工智慧技術相比，“深度偽造”技術還具有泛在普適性。長期以來，對影片的深度處理技術壟斷在政府或實力異常強大的企業手中，社會公眾無從使用。一部以假亂真的影片製作通常需要好萊塢式的技巧和預算。然而，“深度偽造”技術的出現則在根本上改變了這一格局，使得該技術開始向一般公眾普及。這又可以從三個方面展開：其一，“深度偽造”採用的是“無監督學習”。相較於“有監督學習”和“半監督學習”而言，“無監督學習”的訓練資料不需要標註。這一特性使得“深度偽造”技術具有極強的親民性。因為一般公眾個人不具備對海量資料實時精準標註的條件和能力。其二，“深度偽造”的“源資料”具有獲取便捷性。實際上，就技術邏輯而言，“深度偽造”是透過海量“源資料”的訓練自動生成“新資料”（偽造影象）的過程。其生成精準度很大程度上取決於“源資料”的豐富程度。考慮到人工智慧技術的飛速發展以及社交媒體上圖片資源的豐富性與易獲取性，製造“換臉影片”的技術難度與成本在飛速下降。其三，“深度偽造”無須安裝程式語言和開源軟體庫就能執行，操作簡單。儘管硬體上需要GPU的支援，但透過短期租用雲平臺的方式可以有效解決。其四，更為重要還在於，隨著一款免費、易於使用的應用程式的出現，這項技術迅速向一般社會公眾普及，其技術門檻進一步降低。普通民眾只需要一兩個目標人物的高畫質影片，8-12小時就可以製作一部自動換臉的影片。

“換臉影片”要達到以假亂真還需要音訊處理技術的支援。傳統上，偽造特定人員聲音存在明顯的技術瓶頸，機器合成聲音極易識別。隨著人工智慧技術的引入，無論是谷歌、百度抑或是訊飛都已經具備了生成模擬語音的能力，其透過對特定人物音色、語言要素的採集與訓練，能夠模擬出足以以假亂真的任何內容的語音。根據ASI資料科學公司的一項測試，透過語音生成演算法，只需要藉助兩小時的語料並訓練五天時間，就可以模擬一份以假亂真的特朗普向俄羅斯宣戰的語音。上述音訊處理技術的嵌入使得“深度偽造”技術的普及如虎添翼。

（三）快速演化性

前文在談及技術邏輯時已經論及，“深度偽造”技術使用的是深度學習中的“對抗生成網路”，它在本質上是一種“無監督學習”，具有極強的自我適應性。一般認為，該模式不需要過多的人工干預，尤其適合以一般公眾為服務物件的應用。實際上，在最初“對抗生成網路”主要侷限於人工智慧的研究群體，並未大規模在社會上運用。不過，“深度偽造”技術的出現打破了這一侷限。研發者利用谷歌的開源學習軟體“TensorFlow”來構建“對抗生成網路”在極短時間內就完成了“換臉技術”的升級換代並最終實現“換臉影片”。在“深度偽造”技術發展的早期，儘管訓練過程是“無監督學習”，但訓練的“源資料”還需要透過人工尋找大量素材，比如目標人物的影片、音訊、圖片，以及尋找合適的替換影片。這在一定程度上降低了該技術的“親民”程度。知名的科技網站“主機板”在2018年曾經預測“深度偽造”技術在尋找“源資料”方面的自動化至少需要一年時間，但事實上，這個自動化迭代只花費了一個月時間。現階段，製作者只需要透過程式上傳需要替換的目標人的照片，軟體可以進行人臉識別，並且海量影片庫中自動匹配最為合適的身體。“對抗生成網路”利用海量的網路資源不斷“無監督”地自我迭代與最佳化，使得“深度偽造”在整體上呈現出一種加速發展的態勢。換言之，“深度偽造”技術雖然處於早期階段，但其卻包含著巨大的潛力，由於技術的飛速發展，我們將很可能立刻面對無法區分真假的“換臉影片”。

三、“深度偽造”技術應用的風險

科技哲學認為，技術是把雙刃劍，可能給社會帶來不同程度的風險。偽造他人的言行對於人類而言並不陌生。在不同的歷史時期，偽造行為可能以不同形式產生。然而，與傳統技術相比，“換臉影片”的破壞力不僅僅在於“偽造”，而更在於“深度”。換言之，“深度偽造”的技術邏輯與技術特徵的疊加使得對其應用可能產生不同於一般影片偽造處理技術的風險。網際網路時代，尤其是自媒體的發展，打破了中心化的資訊傳播模式。它一方面增加了資訊傳播的效率，另一方面也降低了對虛假資訊的控制能力。“深度偽造”技術的應用風險在網際網路傳播的特性之下被進一步放大進而可能產生不可控的局面。

（一）侵犯公民人身權利與財產權利

對“深度偽造”技術生成物（影片、圖片、音訊）的應用最為直接的風險之一就在其對被偽造公民的個人權利產生影響。在“深度偽造”技術的起源地美國，該技術最初用以製作各類的色情換臉影片——將明星的“臉”替換到其他的色情影片中。其後，隨著技術的普及，“換臉”的物件也迅速由明星、政客向一般公眾擴充套件。可見，由於“深度偽造”技術的高度真實性、泛在普適性和快速演化性的基本特徵，該技術生產的影片高度逼真，且越發以低成本的方式普及，對於被“換臉”的明星或是一般公眾而言，其名譽權、肖像權等基本權利就不可避免地受到侵犯。“楊冪換臉影片”在短期內微博的閱讀量就達到了1.1億，影響之廣，可見一斑。另據不完全統計，遇上“換臉”的明星還有至少劉亦菲、劉詩詩、趙麗穎等人。此外，“換臉影片”不僅將用於自我滿足，而且也可能被用來敲詐、羞辱、騷擾和勒索受害者。綜上所述，“深度偽造”技術所產生的“換臉影片”最為直接的影響就在於公民的人身權與財產權。

（二）破壞社會穩定、國家安全與國際秩序

正如有專家預測的那樣，未來幾年，電腦將能夠快速生成令人信服的、偽造的音訊和影片資訊，這將把假新聞提升到一個全新水平。“深度偽造”技術所產生的第二個直接風險就可能透過所謂的假新聞用以誹謗政客，破壞社會穩定、國家安全和國際秩序。設想在種族衝突嚴重的地區，一個政治人物發表種族歧視言論的“換臉影片”可能直接引發不可控制的惡果。2018年4月，有技術團隊製作了涉及美國前總統奧巴馬的“換臉影片”，在影片中“奧巴馬”稱美國現總統特朗普為“徹頭徹尾的白痴”。同年5月，有人利用“深度偽造”技術製作了特朗普的影片，批評比利時的環保政策。儘管影片在製作上有明顯瑕疵，但仍然有比利時的民眾相信該影片為真，並激烈地迴應。這一影響大大超過了製作團隊的估計，使得他們不得不對評論者一一回應該影片其實是一個假影片。據不完全統計，現下成為該技術受害者的政客至少還包括德國總理默克爾、阿根廷總統馬克裡。

正因“深度偽造”技術所可能導致的假新聞氾濫，美國國家情報總監丹·科茨在參議院情報特別委員會發表演講，提交了由美國情報界彙編的《全球威脅評估報告》。報告明確提到“深度偽造”技術，並指出戰略競爭對手可能會試圖使用“深度偽造”或類似的機器學習技術來建立令人信服的——但是虛假的——影象、音訊和影片檔案，以此對美國及其盟友和夥伴產生負面影響。英國《衛報》也認為，“深度偽造”技術可以造成任何人說過或做過任何事的假象，並不無擔憂地認為會引發新一輪資訊戰。

（三）消解社會共同體的信任

眾所周知，我們對世界的經驗以及我們對世界作出自信判斷能力需要我們有一些證據來源。這些來源在形成共識的基礎之上，自動引導我們作出判斷。人們不可避免地依賴於超出他們直接感知的世界的可靠知識，這在本質上是一種知識生態系統。“深度造假”技術的泛濫還可能導致公眾形成“眼見不為實”的心理預期。其直接結果是公眾對公有機構和私有機構的信任度遭遇侵蝕。一直以來，影片都被視為真實性的基本標準，與容易失真的照片形成鮮明對比。“深度偽造”影片技術的發展將破壞我們對影片作為事件記錄的信任。該技術最大的威脅不是公眾會被欺騙，而是公眾會把一切都當作欺騙。隨著這種“深度偽造”技術的發展與普及，它潛在地可能造成一種資訊無序的狀態，會對原有的要求我們信任外部資訊來源的個人決策或集體自治構成嚴重的，甚至是無法克服的挑戰。其最終結果有可能導向霍布斯提及的“所有人與所有人的戰爭”，“眼見為實”的提法將消逝在歷史之中。有研究表明，人與人的反覆協作的基礎是彼此的信任。當一個群體內部彼此信任時，群體淨收益會提升。反之，彼此缺乏信任將導致群體的效益下降。可見，“深度偽造”技術的濫用將使得人類加速邁入“後真相時代”。在“後真相時代”，由於“真相”被認為不復存在，“人們只相信自己願意相信的東西”。由此，社會共識便難以聚合而成。

四、“深度偽造”技術應用的規制

“深度偽造”技術只是人工智慧與影片處理技術結合的必然產物，它不是第一個，也必定不是最 後一個該領域的嘗試。儘管其動機可能從純粹的戲謔、模仿，到爭取商業利益，甚至是敲詐、勒索和政治操縱，但技術應用於以上述目的並非獨特的問題，而只是一個有待解決的問題。現有的技術規制 與法律規制手段無法完全覆蓋“深度偽造”技術的諸多應用場景，這就需要在現有技術與法律規制之外構建一種全新的“平臺-作者-受眾”三位一體的新規制模式。

（一）現有技術規制及其侷限性

對於技術應用的風險，通常的邏輯是“以子之矛，攻子之盾”——用技術進行規制。實際上，隨著 “深度偽造”技術的影響擴大，以技術進行“溯源防偽”和“反向破解”的理念與實踐也日益盛行。“溯源防偽”是指透過溯源技術從根本上保證影片的真實性。已有國外公司開始使用區塊鏈等技術，利用在分散式賬本上永久記錄元資料，在建立之初為音訊、照片、影片內容新增水印。由此，對於影片的真偽就可以便捷地識別。該技術雖然在技術層面沒有顯著困難，但卻很可能會面臨成本和政策方面的難題而無法真正推廣。也有學者暢想，推出一項新服務——不可變的生命日誌或身份驗證跟蹤，使“深度偽造”的受害者可以提供經過認證的不在場證明，可信地證明他或她沒有說或做所描述的事情。

“反向破解”則是透過技術對“深度偽造”技術生成的“換臉影片”進行識別。美國國家標準與技術研究所和美國國防高階計劃局的研究人員一直在致力於開發能夠探測“深度偽造”的技術。研究人員發現“換臉影片”中人物眨眼次數較少、且極不自然。透過跟蹤影片中人物的眼睛狀態，“換臉影片”的識別準確率高達99%。還有團隊透過“換臉影片”中血液進入面板時細微變化來識別。

然而，無論“溯源防偽”抑或是“反向破解”，在“深度偽造技術”快速演化性的特徵之下，都顯得略顯蒼白。“道高一尺魔高一丈”，技術的進展速度往往高於技術的破解速度。舉例而言，隨著技術的發展，“深度偽造”技術可以收集海量的眨眼影片進行訓練，由此就可以進一步最佳化“換臉影片”中的眨眼細節，從而成功避開檢測工具。因此，從某種意義上說，作為防守方的“鑑真技術”在作為進攻方的“偽造技術”面前往往處於落後捱打的地位。

（二）現有法律規制及其侷限性

除了技術規制之外，對於高新技術應用規制的重要工具還包括法律。由於立法過快的迴應甚至限制可能錯過技術發展的機遇和審視技術帶來問題的機會，因此對於“深度偽造”技術在內的前沿技術規制主要立基於現有的法律體系。實際上，無論從民事賠償、行政處罰、刑事追訴等方面來看，現有的法律體系都為規制“深度偽造”技術提供了可能。

首先，正如本文第三部分提及的那樣，“深度偽造”技術最為直接的風險就在於對公民的人身與財產權形成侵害。現有的民事法律體系內的相關制度可以對上述行為進行規制。具體來說，“換臉影片”可能涉及肖像權和名譽權。在現有的技術框架之下，“深度偽造”技術需要海量的目標人物的照片、影片作為“源資料”進行訓練，生成偽造的目標人物（受害人）的臉部影象，並替換到選定影片的人物臉部。此時，目標人物的肖像權就受到侵犯。更進一步，由於“深度偽造”技術的高度真實性特徵，社會公眾可能形成對“換臉影片”主角的誤解，認為其作出了他/她實際上並未做的行為或者發表實質上並未發表的言論，進而產生一種負面評價。在此過程中，“換臉影片”使得公眾對目標人物形成了虛假或者誤導性的觀點，損害了其聲譽，進而給其造成精神和物質的損失。由此，在現有的侵權責任法的框架之下，受害人可以要求“換臉影片”的作者承擔刪除影片、賠禮道歉、消除影響和賠償損失等民事責任。

其次，“深度偽造”技術還可能侵犯影片的智慧財產權。按照我國智慧財產權的相關規定，影片作品的作者享有作品的完整權，不受任意修改的權利。當原始影片被曲解、編輯、修改之後，原作者的智慧財產權就受到相應的侵害。可見，當使用“深度偽造”技術進行影片“換臉”時，無疑就侵犯了原影片所有人的版權和照片所有人的版權。無論“換臉影片”製作者是否用於商業，只要不構成法定的例外情形，都已構成侵權。原始影片和照片的版權人都可以要求刪除修改後的影片與照片副本、禁止釋出影片並賠償相應損失。從國外的實踐來看，確實有版權人以侵權為由，要求網站刪除特定的“換臉影片”。再次，“換臉影片”還可能觸發行政處罰，這主要體現在國家相關主管機構對影片傳播平臺的管理。2018年3月22日，國家廣電總局釋出《關於進一步規範網路視聽節目傳播秩序的通知》（下稱《廣電通知》），明確規定“堅決禁止非法抓取、剪拼改變視聽節目”。通知原文規定，不得製作、傳播歪曲、惡搞、醜化經典文藝作品的節目，不得重新剪輯、不得擷取片段拼接、不得傳播篡改原意產生歧義的作品片段。同樣以“楊冪換臉影片”為例，儘管該影片並不存在對原有作品的“惡搞”與“醜化”，但正如筆者技術邏輯部分指出的那樣，“換臉影片”是將偽造的圖片逐幀對映到影片之上，因此是一種對原影片素材的重新分解和編輯，無疑構成“剪輯”。同樣，作者還將《射鵰》作品中若干片段整合成一個新段落，也構成“擷取片段拼接”。更進一步，將原影片“換臉”，還涉嫌“篡改原意產生歧義”。因此，平臺對上述影片內容具有管理責任。若怠於履行責任，則相關管理機構可以依法處罰。

最後“，換臉影片”還可能構成相應的犯罪。如果將“偽造”和“傳播”作為核心要素，在現有的刑事法律體系之下，“換臉影片”可能構成但不僅限於以下五大類的犯罪：第一，利用“深度偽造”技術傳播虛假資訊的，涉及險情、疫情、災情、警情、軍情、敵情、恐情，根據情節不同可能構成編造、故意傳播虛假資訊罪、編造、故意傳播虛假恐怖資訊罪、編造並傳播證券、期貨交易虛假資訊罪、戰時故意提供虛假敵情罪；第二，無論“換臉”的受害人是名人抑或是普通公眾，都可能因為“換臉影片”所故意捏造和散步的虛構事實導致人格貶損與名譽損失。因此，該行為還可能構成誹謗罪。第三，利用“換臉影片”進行威脅、要挾行為，可能構成敲詐勒索犯罪；第四，利用“換臉影片”進行人臉識別進而秘密獲得或騙取公私財物，可能構成詐騙類罪或者盜竊罪；第五，利用“換臉影片”編造虛假資訊，在網路散佈或者組織、指使他人在網上散佈，造成公共秩序嚴重混亂的，還可能構成尋釁滋事罪。如果不考慮“偽造”而只關注影片“資訊”本身，“換臉影片”的傳播可能構成其他更多的罪名，諸如因為傳播的內容是色情影片而構成傳播淫穢物品罪、組織播放淫穢物品罪，因為傳播內容是極端主義的言論而構成宣揚恐怖主義、極端主義、煽動實施恐怖活動罪等。如果我們將視角關注到影片的製作本身，還可能構成製作、複製、出版、販賣、傳播淫穢物品牟利罪。

可見，儘管現有法律沒有針對“深度偽造”技術的專門立法規定，但就現階段的行政、民事和刑事三個領域的相關法律，偽造造成的後果在一定程度上可以被行政處罰、治安處罰、民事責任、刑事犯罪等既有責任體系涵蓋。然而，上述法律規制的缺陷也是顯著的：其一，民事責任規制領域，構成侵犯公民肖像權的行為，通常應具備兩個要件：未經本人同意且以營利為目的。若“換臉影片”並未以營利為目的，則難以被肖像權的制度體系所涵蓋；另外，構成侵犯名譽權則根據受害人確有名譽被損害的事實、行為人行為違法、違法行為與損害後果之間有因果關係、行為人主觀上有過錯來認定。在實踐中，“換臉影片”內容對“受害人”名譽的貶損可能難以證明。精神損害在沒有造成嚴重後果的情況下往往難以支援。再以“楊冪換臉影片”為例，影片作者並非以營利為目的，更大程度上只是一種“炫技”。其“換臉”行為也沒有對楊冪本人形成不當的貶損，精神損失無從談起。儘管《射鵰》的影片所有者可以主張侵犯智慧財產權，但實際上也很難以證明該影片傳播對其造成的損失。同時“，深度偽造”技術所具備的泛在普適性也使得版權方需要面對海量分散、隨機的“偽造”行為，維權成本極高。其二，在行政責任領域，《廣電通知》實際上也無法充分規制“換臉影片”。這是因為《廣電通知》規範的只是“視聽節目網站”，而無法涉及公眾個人行為。“深度偽造”技術的泛在普適性使得從事偽造行為的主要是公眾個人，而不是“視聽節目網站”。《廣電通知》確實強調網站要嚴格管理上傳節目，但對於如何管理、如何審查以及審查到何種程度則語焉不詳。因此，在實踐中這種管理更大程度上是一種事後的管理——在版權方投訴之後下線處理。換言之，在版權方沒有行使相應權利的情況下，“換臉影片”就具有一定的傳播空間。其三，在刑事責任方面，儘管刑法為偽造傳播虛假資訊的行為編織了貌似嚴密的法網，但實際上，只要影片資訊並非承載特定的內容（如軍情、險情、色情等），或直接從事違反犯罪（如詐騙、盜竊等），現有“換臉影片”的絕大多數情形都在刑事法網之外。至少，“楊冪換臉影片”以及現在越發流行的網路直播平臺主播在直播時將自己的臉換成明星（明確向觀眾表明“換臉”）的操作就基本不在上述刑事規制之內。

法律規制更為顯著的不足還在於它往往是一種事後規制。由於“深度偽造”的高度真實性的技術特徵，藉助既有的網路傳播平臺，其造謠的效應可能會成指數級放大。即使後續法律產生強有力的規制，但既有的傳播影響已然形成。這便是所謂的“造謠動動嘴，闢謠跑斷腿”。因此，對於“深度偽造”技術生成“換臉影片”的規制就不能僅僅侷限於事後的規制。這也決定了現有法律的規制體系更大程度上是一種權宜之計。此時，對於“深度偽造技術”應用的事前與事中規制就顯得尤為重要。

（三）“平臺-製作者-受眾”三位一體的新規制體系

實際上，無論是技術抑或是法律規制，都有一定的事後性。它們在特定領域和特定場景可以對“深度偽造”技術形成較好的規制，但同樣無法完全規避上述技術在應用中可能產生的風險。因此，對於“深度偽造”技術的規制還應該建立三位一體的事前與事中規制模式。在偽造影片傳播產生不利影響之前有效將風險限制在最低程度。具體而言，就是強化平臺的審查責任、明確製作者的說明義務和培養公眾的資訊素養。三種措施良性迴圈，每個環節彼此加強，形成一個閉環。

1. 強化平臺審查責任

公民個人基於喜好或者研究需要而製作“換臉影片”並不具有違法性。只有當期將該影片傳播後才具有法律探討的空間。眾所周知，在網際網路時代，社交媒體與影片平臺在“換臉影片”的傳播中扮演著極其重要的角色。因此，平臺有責任呈現真實訊息，審查一切疑似虛假、誇大、帶有煽動性的訊息，尤其要防範假訊息在平臺上的病毒式擴散。當然，平臺的審查責任也並非無遠弗屆。在“深度偽造”的“換臉影片”的傳播中，平臺只要遵循“技術正當程式”即可被認為履行了審查責任。若怠於履行上述義務，造成相應後果，平臺需要承擔連帶責任。

2. 明確作者的宣告義務

由於“深度偽造”技術的高度真實性、泛在普適性與快速演化性，導致可能偽造影片的潛在群體劇增、影片欺騙性增強。“換臉影片”的行為可能呈現出分散、隨機、破壞巨大且難以主動規制的特徵。此時，就勢必要建立一種全新的“換臉影片”作者宣告義務。對於作者而言，需要遵循以下兩個要求：其一，在影片的顯要位置以明顯的水印等方式宣告“換臉影片”。其二，在透過平臺傳播時需要向平臺宣告該影片的“換臉屬性”。如果生產者完成上述義務則推定為無過錯，如果沒有履行上述義務則推定為有過錯。這種規制類似於《產品質量法》中的警示說明。當然，其實法國的相關立法已經為這種宣告義務提供了參照。2017年法國政府就推出了一項法律規定，規定經過修圖處理的模特照片必須標註“已修圖照片”。此種作者主動的說明義務為有效規制“深度偽造”技術的生成物提供了可能。

3. 培育公眾的資訊素養

雖然“深度偽造”技術極大增加了虛假影片的“可信度”，但更好的資訊教育也是預防虛假影片產生不當社會影響的重要途徑。與其期待透過禁止“換臉影片”的方式來解決問題，不如關注如何提升公眾的“關鍵資訊素養”，區分影片的真假。因此，除了平臺的審查責任與製作者的說明義務之外，對於“深度偽造”技術的規制還有一個關鍵的環節——提升公眾“關鍵媒體/資訊素養”。

所謂資訊素養，是指公眾藉助工具，理解新聞報道中的框架、偏見、不準確之處，並能夠評估事實真實性的能力。資訊素養重點關注如何區分資訊的真假。它指向“一組能力，要求個人識別何時需要資訊，並具有定位、評估和有效使用所需資訊的能力”，但它的意義遠不止於此：它還涉及充分利用資訊和明智地解釋資訊所需的能力、屬性與自信。包括批判性思維和意識，以及對與使用資訊相關的倫理和政治問題的理解”。媒體素養是資訊素養的組成部分。它關注的是理解媒體、便捷使用媒體（傳統媒體、數字媒體）以及使用媒體建立或表達自我能力的知識。當今社會圍繞新聞製作、資訊傳播形成了越來越複雜的商業模式，這就使得資訊素養顯得更加重要。

從整體而言，當今社會對於公眾資訊素養的培養缺乏必要的關注。社會公眾在消費資訊時，存在意識缺陷，在使用資訊前，沒有保持必要的批判性和審慎性。斯坦福大學的一份研究顯示，年輕人對於網際網路資訊進行推理的能力極度有限，極度容易受騙。此外，由於“確認性偏誤”和“過濾氣泡”的存在，一個人傾向於接受自己支援的某種觀點，並不斷強化。因此，要在接受的基礎之上進行批判性的認知，是一個巨大的挑戰。僅靠理智和情感無法有效穿越“後真相”的泥潭。具體而言，資訊素養的核心目標有兩個方面：第一，是讓公眾在接受資訊之前習慣性地批判檢查，意識到“在這個數字時代，任何事情都不能盲目地看表面，因為那張臉可能是在欺騙你”。第二，培養公眾使用相關工具對識別影片來源、作者身份，評估影片承載資訊的準確性和客觀性，進而獲得對影片內容進行批判性檢查和驗證的能力。這也是在“後真相時代”生存的必備技能。

結 語

智慧技術的發展呈現出加速迭代的特徵。諸多技術及應用常常令法律人應接不暇。進入大資料與人工智慧時代，一個明顯的感受便是法律相對於前沿技術的滯後性越發凸顯。實際上，“深度偽造”技術及其產生的風險只是諸多智慧技術發展的衍生品之一。法律固然是強有力的規制工具，但要充分降低智慧技術的應用風險，唯有技術、法律與倫理規制協同。