今年,一段透過AI技術把朱茵扮演角色的臉替換成楊冪的影片在網路熱傳,好多網友表示毫無違和感,也有網友提出可能侵犯肖像權,該技術還可能被用來製作明星的不雅影片。對此引發這場熱議的製作者迴應已將相關影片下架,並表示:“對所有人來說是一個警示,大家應尊重版權與肖像權,專注於技術本身。”喧囂中亦須保持冷靜,新技術驅動文化創意更新迭代之時,切忌濫用,更不能突破道德底線。
傳統變臉絕活是透過面具完成,“AI換臉”則是利用計算機技術實現的,將一個人的面貌特徵,替換成另一個人做出的影片,毫無違和感,簡直就是移花接木一般完美,令人大開眼界。猶如圖片能夠PS一樣,“AI換臉”就是影片PS,從科技的發展趨勢看,“AI換臉”是一定會出現的。然而,“AI換臉”技術乃是“大殺器”,潛藏著很大的風險,一旦遭到濫用的話,將帶來難以估量的傷害和損失。
現在“AI換臉”技術進步很快,在直播、影片聊天裡,都能使用了。可以想見,假如有犯罪分子利用“AI換臉”技術,透過直播、影片聊天等方式,對使用者進行欺詐,很容易矇騙過去,這就會令網路詐騙升級到新的高度,網友識別能力卻跟不上,無疑會造成很大的損失。
如今,人臉識別技術已經得到普遍應用,諸如上班打卡、刷臉購物、支付、手機解鎖、抓交通違章等場景,擁有大量的使用者群體。假如有人利用“AI換臉”技術,在這些領域弄虛作假,人臉識別又無法辨識真偽的話,那麼個人隱私資訊、財產等都會被盜,後果難以想象。可見,“AI換臉”技術存在非常大的安全隱患,需要對其高度重視,不能坐視“AI換臉”技術的濫用,監管部門應未雨綢繆,及早對其進行研究,找出應對的措施。
“AI換臉”為淫穢影片的傳播提供了新的興奮點,讓那些本來未必會接觸淫穢影片的未成年人群體,因為“追星”情結而增加了“看一看”的興趣,最終誤入其中,難以自拔。
該技術被應用於色情影片,本身就是對科技的侮辱,藉此形成“黑色產業鏈”,造成的社會危害更是不可低估。
抖音上有個專門做換臉影片的,真尼瑪笑死我了,劉能版小馬哥,趙四版劉德華。但是我最佩服的就是那些換迪麗熱巴,劉詩詩的。
今年,一段透過AI技術把朱茵扮演角色的臉替換成楊冪的影片在網路熱傳,好多網友表示毫無違和感,也有網友提出可能侵犯肖像權,該技術還可能被用來製作明星的不雅影片。對此引發這場熱議的製作者迴應已將相關影片下架,並表示:“對所有人來說是一個警示,大家應尊重版權與肖像權,專注於技術本身。”喧囂中亦須保持冷靜,新技術驅動文化創意更新迭代之時,切忌濫用,更不能突破道德底線。
傳統變臉絕活是透過面具完成,“AI換臉”則是利用計算機技術實現的,將一個人的面貌特徵,替換成另一個人做出的影片,毫無違和感,簡直就是移花接木一般完美,令人大開眼界。猶如圖片能夠PS一樣,“AI換臉”就是影片PS,從科技的發展趨勢看,“AI換臉”是一定會出現的。然而,“AI換臉”技術乃是“大殺器”,潛藏著很大的風險,一旦遭到濫用的話,將帶來難以估量的傷害和損失。
現在“AI換臉”技術進步很快,在直播、影片聊天裡,都能使用了。可以想見,假如有犯罪分子利用“AI換臉”技術,透過直播、影片聊天等方式,對使用者進行欺詐,很容易矇騙過去,這就會令網路詐騙升級到新的高度,網友識別能力卻跟不上,無疑會造成很大的損失。
如今,人臉識別技術已經得到普遍應用,諸如上班打卡、刷臉購物、支付、手機解鎖、抓交通違章等場景,擁有大量的使用者群體。假如有人利用“AI換臉”技術,在這些領域弄虛作假,人臉識別又無法辨識真偽的話,那麼個人隱私資訊、財產等都會被盜,後果難以想象。可見,“AI換臉”技術存在非常大的安全隱患,需要對其高度重視,不能坐視“AI換臉”技術的濫用,監管部門應未雨綢繆,及早對其進行研究,找出應對的措施。
“AI換臉”為淫穢影片的傳播提供了新的興奮點,讓那些本來未必會接觸淫穢影片的未成年人群體,因為“追星”情結而增加了“看一看”的興趣,最終誤入其中,難以自拔。
該技術被應用於色情影片,本身就是對科技的侮辱,藉此形成“黑色產業鏈”,造成的社會危害更是不可低估。