導語：人人都愛換臉術，人人都怕換臉術

作者 | 園長

編輯 | 石燦

11月底，國家網信辦、文旅部和廣電總局等三部門聯合釋出了《網路音視訊資訊服務管理規定》，明確“利用基於深度學習、虛擬現實等的虛假影象、音視訊生成技術製作、釋出、傳播謠言的……應當及時採取相應的闢謠措施”等針對換臉技術的新規定。

這也是國內第一個關於“AI換臉術”的監管措施，目的在於打擊利用AI 技術製作的虛假音視訊，控制此類“新型謠言”的傳播。

此前，國內出現過幾次AI換臉術風靡期。

“如何讓楊冪擁有朱茵的演技？”

年初，一段藉助AI換臉技術製作的94版《射鵰英雄傳》火了，黃蓉飾演者朱茵的臉被換臉技術“偷天換日”變成了楊冪的，雖然五官大不相同，但換臉後的表情、動作卻很自然流暢。彈幕中不停有人感嘆，“要是大冪冪有這樣的演技就好了。”

這段視訊來自B站，Up主名為“換臉哥”。利用換臉技術DeepFake，普通人經過簡單的學習也能製作出真假難辨的換臉視訊。9月，一款名為“ZAO”的App進一步將換臉技術“白菜化”，只需在手機上安裝這款App，就可以在視訊模版中一鍵“換臉”。

但在爆火的同時，ZAO被曝出不尊重使用者隱私等問題；包括國外盛行的DeepFake換臉技術，自產生之日起就面臨著技術濫用的困擾——公眾擔心有人可能使用幾乎以假亂真的換臉技術，進行詐騙誹謗甚至製作色情視訊。

實際上，後者已經被“廣泛應用”了，包括斯嘉麗·約翰遜、艾瑪·沃森在內的明星都成了這項技術的“受害者”。

面對這些因新技術蝶變而出現的新內容形勢，國外和國內的監管隨之而來。美國弗吉尼亞州先前對DeepFakes採取了行動，擴大了其“復仇色情法”的定義監管範疇。

但在不斷更新的技術手段面前，此類規定能防住別有用心的人利用技術作惡嗎？

現在，製作釋出了楊冪-朱茵換臉視訊的Up主“換臉哥”已經無法在B站搜尋到。

但在B站搜尋“換臉術”，仍有相當多視訊，有不少是由換臉視訊App“ZAO”直接生成的，也有專門做換臉視訊的Up主上傳的。

（B站的AI換臉視訊 Up主：趨暗物質）

Up主“趨暗物質”就專做這類換臉視訊。在他的視訊中，有楊超越代替宋慧喬做女主的《浪漫滿屋》，黑寡婦版的佟湘玉，李雲龍版的《巴啦啦小魔仙》……這些視訊的播放量都不低，在B站甚至形成了一個獨特的創作者“流派”——鬼畜換臉派。

儘管從出場起就伴隨著質疑，換臉術依然有著人們難以拒絕的獨特魅力。

2017年年底，一位名叫“DeepFakes”的國外網友釋出了用於換臉的一套演算法，很快就被用於換臉視訊的製作，這套演算法也被稱作“DeepFake”。從這時起，普通創作者擁有了一個成本低廉的換臉視訊解決方案。

不久後，有人將DeepFake演算法整合打包成一個軟體，無需安裝python等程式就可以直接執行，再次降低了換臉術的學習和使用成本。

7月，新京報曾報道有人利用此類軟體牟利——繳納398元的學費後，學員只要完成“連結到雲硬碟、提取臉部資料、訓練模型、換臉輸出視訊”四個步驟，就能實現AI換臉視訊的製作。此外，店家還附贈600餘部AI換臉製作的淫穢視訊。

（淘寶上仍然有換臉視訊的訂製和教學服務）

8月底，換臉App ZAO上線，直接為使用者省略了下載安裝和學習訓練的環節，使用成本也被降到無限接近於零。人們可以上傳照片自動替換影視劇“名場面”中角色的臉部，很快就能得到一條AI製作的換臉視訊。

ZAO的爆火沒有持續太久，持續了一個星期就因為玩法過於單一而“失寵”。不過，ZAO還是將換臉技術的使用門檻降低到了手機美顏、P圖的水平。製作一個換臉視訊，再也不是什麼難事。

但換臉技術帶來的不僅僅是搞笑和娛樂性質的視訊，色情和謠言視訊也藉此大行其道。這對人們的認知更是顛覆性的——“眼見為實”的傳統觀念，在高度發達的換臉技術面前也變得不可靠：你看到的東西，也可能是假的。

人們也開始意識到，AI換臉不僅僅是一個有趣的影象處理技術，對於社會生活的影響之大，是這項技術剛剛出現時人們遠遠想不到的。因此，技術越成熟，遭到平臺和政府的監管也越多。

2019年7月初，弗吉尼亞州通過了一條有關色情禁令的法律修正案，禁止出售包括虛假創作在內的“處於裸體或脫衣狀態的視訊和影象。”弗吉尼亞也成為美國首批禁止傳播計算機生成的色情內容的地區之一。

11月11日，國際網際網路社交巨頭推特也公佈了打擊DeepFake視訊策略。其中包括了在涉嫌DeepFake的視訊中進行特殊標註、新增真實新聞來源連結等措施。

此前不久，谷歌、Facebook和亞馬遜等巨頭紛紛贊助了檢測DeepFake視訊的研究專案，希望可以藉助技術手段提前佈局，在視訊識別上領先一步。

單純的換臉術並不讓人過於擔心，真正引起公眾擔憂的，是虛假視訊+虛假音訊的融合：目前可以做到AI換臉，也能實現AI合成聲音（各個“AI主播”的出現就是一個例證），兩者一旦更加深度地進行融合，對於目前的音視訊鑑定技術將是一個巨大的考驗。

（主持大會的AI主播 這已經是一個成熟技術 圖源：36氪）

同時，也很難保證這種技術不被用於作惡——比如造謠、詐騙、製作色情視訊和虛假新聞等等，人們更加難以分辨一段畫面和聲音都“無比真實”的視訊是真是假，當事人的闢謠成本也將因此陡增。

“傳統意義上‘真實’與‘虛假’的界線將被打破。”中國科學技術法學會李晟教授認為，DeepFake的真正問題正在於此。

有研究統計了超過1.4萬個DeepFake視訊，其中的96%包含色情元素。“大部分都是把女演員的臉，轉移到色情明星的身體上。”網路安全公司Deep Trace Lab這樣表示。從這個比例中也不難看出，DeepFake技術在大多數情況下沒有用對地方。

這也是許多影象處理演算法面臨的倫理問題——超前的技術大大降低了潛在的作惡成本。

6月，號稱可以“一鍵脫衣”的圖片處理程式DeepNude（深度裸體）上線，一時間使用者眾多，把伺服器擠到無法登陸。

技術的濫用，給社會帶來的只能是傷害，許多人特別是女性對此深感不安。

“人們濫用它的可能性太高了，我們不想這樣賺錢。”不久後，開發者阿爾貝託只好在一片罵聲中下線了這款程式，但惡果已經造成，那些被製作出來的圖片已經流傳到網際網路的各個角落去了。

更令人感到不安的是虛假音視訊的結合。

3月，犯罪分子成功模仿了一家英國能源公司母公司CEO的聲音，欺騙了多位同事和合作夥伴，一天內詐騙了220000歐元（約173萬元人民幣）。

在此次公佈的《網路音視訊資訊服務管理規定》中，關於AI造假音視訊的規定主要有四條。

在新的規定中，包括“按照國家有關規定開展安全評估”、“以顯著方式予以標識”非真實音訊資訊、不得利用AI造假技術釋出虛假新聞、部署AI造假音視訊鑑別技術和健全闢謠機制等。

和國外同類管理規定相比，這套措施相對來說比較完善，既有安全評估等源頭管理，又有鑑別技術和闢謠機制配套，對於防止濫用AI技術造假音視訊干擾資訊傳播秩序很有幫助。

但對於AI造假技術在資訊傳播之外的應用，還需要更多配套的機制建設。

5月，中國民法典人格權編草案二審稿提出，任何組織或者個人不得以醜化、汙損，或者利用資訊科技手段偽造等方式侵害他人的肖像權。

“如果正式通過，這意味著即便沒有營利目的和主觀惡意，未經本人同意的AI換臉同樣有可能構成侵權。”北京大學法學院副院長薛軍分析道。

它的影響將是多方面的。

可以預見的是，今後創作者對換臉技術的使用必將更加謹慎，需要警惕其中面臨的肖像權風險。對於希望利用換臉技術牟取利益的人來說，這同樣是一種震懾，特別是色情視訊等黑產從業者。

從創業企業的角度來看，藉助AI換臉、變聲等新鮮玩法，可預見回報會十分有限。

當陌陌旗下的ZAO收割完一波流量之後，大大提高了人們對於換臉視訊玩法和技術的門檻，除非在玩法和內容上有較大的突破，否則很難找到一個“爆點”。主打“換臉”玩法的產品，也將進入一個相對低潮期。

但良好的體制規則應當在限制技術作惡的同時，不去限制技術的進步。

（《速度與激情7》是如何補拍保羅·沃克鏡頭的）

在2015年上映的電影《速度與激情7》中，保羅·沃克的演員不幸車禍喪生。為了補拍他未完成的戲份，劇組收集了他生前拍攝的所有影像資料，由替身演員完成表演動作，一些細微的部分使用合成技術進行嫁接。這麼一折騰，上映的時間錯後了將近一年。

AI換臉技術能夠提高計算機“換臉”時的效率，為影視製作降低時間成本。這是一個空前廣闊的應用場景。將AI合成技術儘快用到正道上，才是一個“正經事”。

新技術的前景一定是光明的，特別是在日益完善的法規和監管之下。當年PhotoShop等修圖App還沒有普及時，人們也會驚歎那些經過Ps的照片是“假照片”，同樣會擔心有人藉助這種技術作惡。

現在，Ps技術得到了人們的普遍了解和認可——當我們看一些過於離奇的照片時，第一反應是“照片肯定是P的”。

但目前，距離人們意識到“視訊是‘P’的”還有很長一段路要走，保護人們的法律也還在完善的過程中。

當這些“基礎設施”在精神和物質上建立起來，“換臉”等AI合成技術 ，也將由此走向新的起點。