由於在訓練神經網路中使用圖形處理單元，計算機視覺和深度學習在過去幾十年中取得了顯著進步。雖然這些高度精確的演算法有很多有益的用例，但研究人員和開發人員都沒有對它們可能造成的不良影響視而不見。他們擔心的一個巨大劣勢是，惡意行為者可以利用這些系統透過製作“Deepfake”來傳播虛假資訊，這是現實的人工智慧生成的真人影片和做虛構事物的影片。
為了解決這個問題，Facebook週四宣佈與 Partnership on AI、微軟、以及來自康奈爾理工學院、麻省理工學院、牛津大學、加州大學伯克利分校、馬里蘭大學帕克分校和紐約州立大學奧爾巴尼分校等機構合作，發起Deepfake檢測挑戰賽（DFDC）。這一挑戰的目標是建立一個可用於訓練模型的實質資料集，這些模型可以準確地檢測Deepfake並報告它們。
這家社交網路巨頭將捐贈超過100億美元資助這項工作，並希望透過這一舉措來激勵研究人員和組織提出新的想法，以對抗社交媒體和網路上的虛假資訊。Facebook首席技術官Mike Schroepfer寫道：
我們希望在這一領域促進更多的研究和開發，並確保有更好的開源工具來檢測Deepfake...Deepfake檢測挑戰賽將包括一個數據集和排行榜以及獎勵，以促使行業建立新的方法來檢測和防止透過AI操縱的媒體被用來誤導他人。
這些機構的研究人員將在國際計算機視覺會議（ICCV）上衡量資料集和使用它訓練的模型的功效。由此產生的完整資料集將於12月在神經資訊處理系統會議（NeurIPS）上公佈。
此外，Facebook澄清說，其不會使用任何使用者資料來建立此資料集，只有同意和付費的參與者才能參與挑戰。
由於在訓練神經網路中使用圖形處理單元，計算機視覺和深度學習在過去幾十年中取得了顯著進步。雖然這些高度精確的演算法有很多有益的用例，但研究人員和開發人員都沒有對它們可能造成的不良影響視而不見。他們擔心的一個巨大劣勢是，惡意行為者可以利用這些系統透過製作“Deepfake”來傳播虛假資訊，這是現實的人工智慧生成的真人影片和做虛構事物的影片。
為了解決這個問題，Facebook週四宣佈與 Partnership on AI、微軟、以及來自康奈爾理工學院、麻省理工學院、牛津大學、加州大學伯克利分校、馬里蘭大學帕克分校和紐約州立大學奧爾巴尼分校等機構合作，發起Deepfake檢測挑戰賽（DFDC）。這一挑戰的目標是建立一個可用於訓練模型的實質資料集，這些模型可以準確地檢測Deepfake並報告它們。
這家社交網路巨頭將捐贈超過100億美元資助這項工作，並希望透過這一舉措來激勵研究人員和組織提出新的想法，以對抗社交媒體和網路上的虛假資訊。Facebook首席技術官Mike Schroepfer寫道：
我們希望在這一領域促進更多的研究和開發，並確保有更好的開源工具來檢測Deepfake...Deepfake檢測挑戰賽將包括一個數據集和排行榜以及獎勵，以促使行業建立新的方法來檢測和防止透過AI操縱的媒體被用來誤導他人。
這些機構的研究人員將在國際計算機視覺會議（ICCV）上衡量資料集和使用它訓練的模型的功效。由此產生的完整資料集將於12月在神經資訊處理系統會議（NeurIPS）上公佈。
此外，Facebook澄清說，其不會使用任何使用者資料來建立此資料集，只有同意和付費的參與者才能參與挑戰。