可能從未想過，從應用商店裡隨便下載一款換臉App，你也可以影響美國大選。一切就是這麼簡單，用手機就可以分分鐘做一個深度偽造的視訊，司空見慣。當然，我們不贊同這種做法。但是，"深度偽造"這個技術正在像Photoshop一樣變得非常普遍，很多開發深度偽造的工程師都說，我們將很快在廣告中看到自己的臉。

1.被濫用的技術

烏克蘭初創公司RefaceAI的執行長說，他們從2011年開始使用機器學習，並在2014年開始使用深度偽造技術開發自己的應用程式。ReFaceAI已經發布了名為Reflect的照片換臉應用程式，並且即將釋出自己的視訊換臉應用程式，以及一項幫助檢測深度偽造視訊的網路服務。他表示，"我們從一開始就發現這項技術被濫用了。"

ReFaceAI已經與一些電影製作公司合作，利用其技術將替身的臉換為明星演員的臉，這麼做可以不用讓演員飛回片場重新進行場景補拍，大大節省了拍攝成本。ReFaceAI執行長說，這就是該公司所認為的深度偽造的未來，"我們想把它用於營銷、個性化廣告、gif動圖和娛樂。"

2. 即使有"道德問題"也無傷大雅

南韓的應用程式Carica也在開發深度偽造gif和視訊，人們可以把自己的臉合成到一個平臺上，然後傳送給朋友和家人。這款應用已經推出了彈出式廣告，將使用者的臉融入到廣告的照片或視訊中。Carica執行長表示，"我們希望我們的公司成為一家媒體公司。"深度偽造只是他們起步的方式。"我認為媒體公司將開始越來越多地採用這一功能，並且對使用者來說也會變得很常見。"

這兩家公司都以PS的普及為模型來研究深度偽造的發展：技術必將普及開來，即使仍存在一點爭議，也無傷大雅。他們認為，深度偽造中隱藏的政治和倫理道德問題並不明顯。

當然也有一些不同觀念，深度偽造檢測平臺"琥珀視訊"（AmberVideo）的執行長認為，深度偽造技術和大多數其他型別的技術一樣，是不道德的。"因為潛在的恐怖分子會利用它來支援暴力、極端的意識形態，這將激勵其他人支援暴力、極端的意識形態。在深度偽造技術上這點尤為明顯。"但他不得不承認，這項技術最終會普及。"就像是社會的一面鏡子，像twitter或是Facebook一樣，有人性最好的一面，也能看到最壞的一面。有些人會用它來進行輕鬆的惡搞，但有人也會製造混亂。"

3. 深度偽造武器化

然而，目前最大的擔憂仍然是深度偽造會被濫用，甚至武器化。隨著深度偽造越來越普遍，它們不僅可能被用於大規模虛假資訊宣傳，還被用於惡作劇或校園欺凌。如果這項技術得來容易，任何人都可以利用它。

Carica和ReFaceAI公司都表示他們正在採取措施，通過檢測網路服務或設定內容版主等方式，以減輕潛在的濫用可能。RefaceAI公司表示，"我們知道我們的技術可能被濫用。甚至有人也會利用PS進行恐嚇。但另一方面，我們也非常警惕，一旦發現有使用者將不良內容上傳到平臺中，就會立即封號。"Carica公司則表示，"這種濫用不是現在才有的，所有的新技術都會出現這種情況。任何技術必然會經歷被誤用的階段，但這也激勵人們不斷完善，一旦度過這個階段，技術的使用就會更加規範。"