當你在手機應用市場裡搜尋相機或者修圖軟體的時候，你會迅速搜到許多功能相似的應用程式（App）。而且隨著技術的發展，一些相機應用程式已經變得越來越複雜，甚至有些讓人迷戀不已，導致人們在社交媒體上發自拍照之前都要修一修。

比如，使用者可以用美圖秀秀App拉長腿型，去除粉刺，瘦臉瘦身，或者加上各種裝飾品。現在，一些人甚至可以製作看起來非常逼真的假視訊。這些用於建立此類數字內容的技術已迅速普及，這種技術被稱之為“深度造假”（Deepfakes）。

1.到底什麼是“深度造假”？

“深度造假”指的是經過技術處理的視訊，或由複雜的人工智慧（AI）製作出來的其他數字表現形式，最終生成的影象和聲音看上去或者聽起來是真實的。

華盛頓公共政策組織布魯金斯學會(Brookings Institution)技術創新中心的高階研究員約翰·維拉瑟諾(John Villasenor)寫道，這樣的視訊雖然變得越來越複雜，但卻越來越容易獲取。他說，“深度造假正在引發一系列具有挑戰性的政策、技術和法規層面上的問題。”

加州大學洛杉磯分校的電子工程教授維拉塞諾(Villasenor)說，“事實上，任何人只要有一臺電腦並能上網，就可以通過電腦應用技術製造出深度造假的內容。”

那麼，什麼是“深度造假”呢？“深度造假”這個詞結合了“深度學習”（Deep learning）和“虛假”（Fake）兩個術語，是人工智慧的一種表現形式。

紐約大學法學副教授保羅·巴雷特(Paul Barrett)表示，用簡單的術語來說，“深度造假”是指通過深度學習製作的虛假視訊。而深度學習又屬於人工智慧的一個子集，指的是一種能夠自主學習並做出智慧決策的演算法安排。

2.“深度造假”有什麼危險？

新美國智庫(New America think tank)網路安全與防務策略師、高階研究員彼得·辛格(Peter Singer)說，“深度造假的危險之處在於，這種技術可能被用來讓人們相信某些東西是真的，而實際上並不是。”

辛格並不是唯一一個聲稱“深度造假”會有危險的人。維拉塞諾教授也表示，這項技術可以用來破壞影視明星或者公眾人物的聲譽，讓他們看起來說了或者做了一些實際上從未發生過的事情。

維拉塞諾說：“對於那些想利用錯誤資訊影響他人聲譽的人來說，這是一個非常強有力的工具和手段。”

3.“深度造假”生成的原理?

深度學習系統可以從多個角度研究目標人物的照片和視訊，然後模仿其行為和說話方式，從而產生一種極其相似的“深度造假”作品。

巴雷特臉書解釋說，“一旦初步的深度造假作品被製作出來，人工智慧可以通過一種叫做GANs的方法，或者叫生成式對抗網路，使這樣的作品更加可信。”

教授補充說，“GANs程式會試圖發現造假檔案中的缺陷，從而不斷改進解決這些缺陷。經過多輪的自我檢測和改進，最終深度造假作品就算完成了。”

根據麻省理工學院(MIT)的一份技術報告顯示，一種能讓深度造假成為可能的裝置，可能會成為“假新聞傳播者的完美武器，他們想要影響從股價到選舉的一切事情。”

麻省理工學院科技評論舊金山分局局長馬丁·吉爾斯在一份報告中寫道，“事實上，人工智慧工具已經被用來把其他人的臉放到明星的身上，把其他人的話語放進公眾人物的嘴裡。”

4.道高一尺或魔高一丈?

布魯金斯學會的研究員維拉塞諾曾在2月份寫道，人工智慧既可以用來製造“深度造假”作品，也可以用來檢測“深度造假”作品。隨著任何計算機使用者都可以使用這項技術，越來越多的研究人員開始關注“深度造假”檢測技術，並尋找一種調節方法。

臉書（Facebook）和微軟(Microsoft)等大型企業已經採取了行動，他們正在檢測並移除他們平臺上的虛假視訊。據路透社(Reuters)報道，這兩家公司今年早些時候宣佈，他們將與全美頂尖大學合作，建立一個龐大的假視訊資料庫，供研究之用。

研究員辛格說：“目前，如果你仔細觀察，你會發現深度造假的視訊裡有些輕微的視覺方面的問題，比如耳朵或眼睛與臉部模糊的邊緣不匹配，或者面板過於光滑而沒有光影效果。”

但他也表示，道高一尺的同時，魔高一丈也會隨之而來。因為“深度造假”技術正在越來越先進，以後的視訊看起來會越來越逼真，檢測這些視訊的真假則會變得越來越困難。

儘管技術在不斷髮展，維拉塞諾警告說檢測技術“經常落後於最先進的創造方法”。所以現在的問題是：“人們會更傾向於相信深度造假技術，還是一種將視訊標記為偽造的檢測演算法呢?”