Deepfakes 已經存在一段時間了，但最近它們變得如此逼真，以至于很難從合法視頻中分辨出 Deepfake。對于那些可能不熟悉的人來說，deepfake 會利用名人的臉孔和聲音，制作一段視頻，讓該人說或做他們從未真正做過的事情。在選舉期間使用 Deepfakes 時，對許多人來說最令人擔憂，因為它們可以通過讓候選人看起來做過或說過他們從未真正做過的事情來影響選民。

Facebook宣布已與密歇根州立大學 (MSU) 的研究人員合作開發一種檢測和處理深度偽造的方法。Facebook 表示，這項新技術依賴于逆向工程，逆向工程從單個 AI 生成的圖像反向工作，以發現用于生成它的生成模型。深度偽造的大部分重點是檢測以確定圖像是真實的還是制造的。

Facebook 表示，除了檢測 Deepfake 之外，研究人員還可以執行圖像歸因，確定使用什么特定的生成模型來生成 Deepfake。然而，圖像歸因的限制因素是大多數深度偽造是使用在訓練期間未見過的模型創建的，并且在圖像歸因期間被簡單地標記為由未知模型創建。

Facebook 和 MSU 的研究人員通過幫助根據其產生的深度偽造來推斷有關特定生成模型的信息，進一步確定了圖像歸因。這項研究標志著第一次有可能在沒有任何特定模型的先驗知識的情況下識別用于創建 deepfake 的模型的屬性。

新的模型解析技術使研究人員能夠獲得有關用于創建 deepfake 的模型的更多信息，并且在現實世界中特別有用。通常，致力于檢測深度偽造的研究人員所擁有的唯一信息就是深度偽造本身。檢測從同一 AR 模型生成的深度偽造的能力對于發現依賴于深度偽造的協同虛假信息或惡意攻擊的實例非常有用。該系統首先通過指紋估計網絡運行 deepfake 圖像，揭示生成模型留下的細節。

這些指紋是由生成模型創建的圖像上留下的獨特圖案，可用于識別圖像的來源。該團隊將一個假圖像數據集與從 100 個公開可用的生成模型生成的 100,000 張合成圖像放在一起。測試結果表明，新方法的性能優于過去的系統，并且該團隊能夠將指紋映射回原始圖像內容。