回覆列表
-
1 # IoT數字科技時代
-
2 # 工智聯
AI 換臉技術有多成熟、有多開放,就有多恐怖,透過 AI 換臉技術可以把一個姿色平平的女生換成劉亦菲、唐嫣、楊冪、范冰冰等你喜歡的大美女,替換技術可以說是巧奪天工,毫無違和感。這項技術真正進入大眾視野,是因為一位名為 "deepfakes" 的網友,他在 2017 年將女明星的臉合成在不雅影片中,並上傳至 Reddit 論壇並引發大量訪問。deepfake 還將他的 AI 換臉技術的程式碼放在 Gitbub 上開源,降低了適用門檻,故而換臉影片開始普及,在國外已經有不少政要、明星被惡搞。
AI換臉技術目前飽受爭議,一方面,若是利用不當,將給許多無辜的人造成困擾,乃至加劇假新聞傳播;但是另一方面,換臉技術又可以給人們帶來驚喜,例如站立式AI合成主播就應用到了換臉技術。未來,藉助AI,直播中換臉和換聲正在同步向前跨越。隨著AI 換臉技術不斷髮展,會出現越來越多的應用場景以及AI設計師、AI主播、AI寫作等人工智慧在各個行業和領域開花,帶著新技術的優越感,以勢不可擋之勢襲來。技術的革新讓人興奮,但這種不真實感的不可控也讓人細思極恐。
簡單舉幾個讓你感到恐懼的應用場景:
場景一:如果不法分子竊取了你的人臉資料,他透過換臉軟體,打開了你的電子裝置,進入了你的APP盜走你的財產或者惡意操作你的股票買賣。
場景二:如果你遇到了人渣前男友,他透過換臉軟體,把你放到不雅影片裡。
場景三:如果不法分子,他透過換臉軟體,和你親朋好友影片借錢。
一個新技術的出現總是有利有弊,是一把雙刃劍,自古邪不壓正,相信各平臺提供商會對人臉識別的演算法進行相應調整,同時要設定多重認證。以及相關部門出臺法律法規嚴厲打擊利用AI換臉技術的違法犯罪活動,控制技術風險,降低對人們日常生活的困擾。
經聯絡DeepNude的建立者,此人化名為“阿爾貝託”(Alberto)。他表示,該軟體基於加州大學伯克利分校研究者開發的開源演算法pix2pix建立,並使用1萬張女性裸圖加以訓練。這一演算法可以視為與之前的人工智慧換臉技術deepfake的變種,也和無人車技術所使用的演算法相似。
DeepNude已上線,照片可在處理,可下載的Windows和Linux應用也在6月23日推出,使用者無需專業知識。這款應用有免費版和50美元付費版。使用免費版獲得的圖片會出現較大水印,付費版雖然沒有免費版出現的水印,但會在圖片左上角加上“FAKE”(虛假)的印章式標註。
用幾十張照片測試,發現如果輸入《體育畫報泳裝特輯》(Sports Illustrated Swimsuit)的照片,得到的裸體照片最為逼真。雖然這一技術還有缺點,多數照片(尤其是低解析度照片)經過DeepNude處理後,得出的影象會有人工痕跡;而輸入卡通人物照片,得出的影象是完全扭曲的。
但因為之前就有deepfake在網路上流傳,但這種技術很容易就會成為傷害女性的工具——要麼在未經同意的前提下使用女性照片,要麼在網上惡意散佈色情內容。而DeepNude相當於deepfake技術的進化版,操作更簡單,處理速度更快。
為了應對這一類非法侵權現象,雖然中國早在4月20日,民法典人格權編草案二審稿提交十三屆全華人大常委會第十次會議審議。其中擬規定:任何組織或者個人不得以醜化、汙損,或者利用資訊科技手段偽造等方式侵害他人的肖像權。同時還規定,其他人格權的許可使用和自然人聲音的保護,參照適用本章的有關規定。
但目前缺乏相應的特殊規制,法律救濟、行政處罰也無法律依據。在個人生物資訊被濫用環節中,中國立法大部分都是空白的,或是缺乏一些可操作性的條款。
在AI技術對人類隱私侵犯愈演愈烈的當下,我當們如何處理?
中消協曾表示,個人財產資訊、個人生物識別資訊屬於個人敏感資訊。個人敏感資訊一旦洩露,將導致個人資訊主體及收集、使用個人資訊的組織和機構喪失對個人資訊的控制能力,造成個人資訊擴散範圍和用途的不可控,可能對個人資訊主體人身和財產帶來重大風險。
而針對隱私洩露的中間環節,則需要各個企業對自己的產品加強保護。在目前很多領域乃至許多居民小區都在大規模引進人臉識別技術的當下。它當然對於安防有很大助益,但也在客觀上增加了個人資訊洩露的可能性。一旦相關產品因加密技術差而導致儲存資訊被不法之徒盜取,後果也難以估量。
最後針對在發生隱私洩露後的情況,應當呼籲國家將個人生物資訊權作為具有人格權屬性的私權,明確納入司法保護範圍;明確個人生物資訊在刑事偵查、治安管理、人口治理、醫療衛生等領域的非商業應用,以及政府和相關機構的責權利,特別是個人生物資訊權保護邊界;最後制定相應的特殊規制,法律救濟、行政處罰條例,讓法律成為個人隱私的“保護傘”。
結語
AI技術的進步為人們的個人隱私安全來了挑戰,但我們不能因噎廢食,如何利用好AI技術以享受技術帶來的紅利,仍然是人工智慧時代需要思考的課題。