個人覺得，這款軟體在很大程度上面會被叫停。
為了回答這個問題，我去看了APP Store裡面的這款軟體。使用者協議裡面，寫的很直白：使用該軟體進行換臉時，需要確保肖像權利人同意授予“ZAO”及其關聯公司在全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利。
可以說，這個協議寫的是很強硬了。個人認為之所以出現這樣強硬的協議，除了公司自己商業上的一些比較明確的考慮之外，更可怕的可能只是出於自己免責的考慮，因為這款軟體的使用場景，有可能超出他們自己的控制。
AI技術被稱為“第四次工業革命”的新勢能，作為一名從業者，我一直持積極的態度。但是實際上，在學術界、工業界對AI技術一直有不小的反對聲音。比如說，已故的科學巨人霍金、特斯拉和SpaceX公司CEO伊隆-馬斯克、微軟的比爾·蓋茨等等。他們一直表達著自己對於人工智慧技術的擔憂。特別的，在2019年人工智慧大會，馬斯克和馬雲的“雙馬對話”中，還是表達著這種擔憂。
因為有這種憂慮，所以近兩年全美各地的計算機科學專案都在增加AI倫理課程，谷歌等大公司正在制定AI原則，防止出現AI失控。
國內高校在這兩年內，人工智慧學院，一個接一個的成立，但是在人工智慧倫理這方面還是有所欠缺，而這個環節，我認為AI技術要發展，要落地，首先最應該解決的問題。
為什麼這麼講？
前兩年一則新聞，曾經引起了大家廣泛的討論。國外一名ID為“deepfakes”的使用者首次釋出了自己AI換臉的影片，後來因為這一技術被應用在製作色情影片上，因而遭到封殺。值得注意的是，遭到封殺之後，deepfakes將程式碼開源了，不知道這次的“ZAO”和deepfakes之間有沒有關係？
另外個人覺得有兩個問題也需要在探討一下：
公司層面：
這款產品是否有考慮到可能帶來的風險？畢竟現在刷臉解鎖，刷臉支付（支付寶已經發微博，說明目前還是可以保證使用者的安全性）已經十分普遍；
有哪些非技術上的措施，保證這款產品不會用於違法；
有哪些技術上的措施，可以保證第二條能夠實施。
使用者層面：
是否已經評估這款產品帶給自己的風險；
是否能夠保證自己不會傷害他人？（不管有意識或者無意識）
在我看來，技術本身暫且不論，只是希望掌握技術的人，能夠明確底線，最起碼做到那條“不作惡”。
個人覺得，這款軟體在很大程度上面會被叫停。
為了回答這個問題，我去看了APP Store裡面的這款軟體。使用者協議裡面，寫的很直白：使用該軟體進行換臉時，需要確保肖像權利人同意授予“ZAO”及其關聯公司在全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利。
可以說，這個協議寫的是很強硬了。個人認為之所以出現這樣強硬的協議，除了公司自己商業上的一些比較明確的考慮之外，更可怕的可能只是出於自己免責的考慮，因為這款軟體的使用場景，有可能超出他們自己的控制。
AI技術被稱為“第四次工業革命”的新勢能，作為一名從業者，我一直持積極的態度。但是實際上，在學術界、工業界對AI技術一直有不小的反對聲音。比如說，已故的科學巨人霍金、特斯拉和SpaceX公司CEO伊隆-馬斯克、微軟的比爾·蓋茨等等。他們一直表達著自己對於人工智慧技術的擔憂。特別的，在2019年人工智慧大會，馬斯克和馬雲的“雙馬對話”中，還是表達著這種擔憂。
因為有這種憂慮，所以近兩年全美各地的計算機科學專案都在增加AI倫理課程，谷歌等大公司正在制定AI原則，防止出現AI失控。
國內高校在這兩年內，人工智慧學院，一個接一個的成立，但是在人工智慧倫理這方面還是有所欠缺，而這個環節，我認為AI技術要發展，要落地，首先最應該解決的問題。
為什麼這麼講？
前兩年一則新聞，曾經引起了大家廣泛的討論。國外一名ID為“deepfakes”的使用者首次釋出了自己AI換臉的影片，後來因為這一技術被應用在製作色情影片上，因而遭到封殺。值得注意的是，遭到封殺之後，deepfakes將程式碼開源了，不知道這次的“ZAO”和deepfakes之間有沒有關係？
另外個人覺得有兩個問題也需要在探討一下：
公司層面：
這款產品是否有考慮到可能帶來的風險？畢竟現在刷臉解鎖，刷臉支付（支付寶已經發微博，說明目前還是可以保證使用者的安全性）已經十分普遍；
有哪些非技術上的措施，保證這款產品不會用於違法；
有哪些技術上的措施，可以保證第二條能夠實施。
使用者層面：
是否已經評估這款產品帶給自己的風險；
是否能夠保證自己不會傷害他人？（不管有意識或者無意識）
在我看來，技術本身暫且不論，只是希望掌握技術的人，能夠明確底線，最起碼做到那條“不作惡”。