世界各地的專家越來越擔心新的人工智能工具，這使得編輯圖像和視頻變得前所未有的容易 - 尤其是社交媒體能夠快速分享令人震驚的內容而無需事實檢查。其中一些工具是由Adobe開發的，但該公司還在研究如何使用機器學習來自動發現編輯過的圖片，從而開發各種解毒劑。

該公司本月在CVPR計算機視覺會議上展示的最新作品展示了人類可以在更短的時間內通過機器自動完成數字取證。該研究論文并不代表該領域的突破，它尚未作為商業產品提供，但有趣的是，Adobe - 一個與圖像編輯同義的名稱 - 對這一系列工作感興趣。

該公司發言人在接受The Verge采訪時說，這是一個“早期研究項目”，但未來，該公司希望在“開發有助于監控和驗證數字媒體真實性的技術”中發揮作用。這可能意味著什么并不清楚，因為Adobe從未發布過旨在發現假圖像的軟件。但是，該公司指出其與執法部門的合作(例如，使用數字取證幫助尋找失蹤兒童)作為其對其技術負責任態度的證據。

Adobe新論文中的一個例子，展示了如何通過機器學習系統發現圖像中的編輯。

新的研究論文展示了機器學習如何用于識別三種常見類型的圖像處理：拼接，其中兩個不同圖像的組合; 克隆，復制和粘貼圖像中的對象; 并且在完全刪除對象時刪除。

為了發現這種篡改，數字取證專家通常會在隱藏的圖像層中尋找線索。當進行這些類型的編輯時，它們會留下數字偽像，例如由圖像傳感器(也稱為圖像噪聲)產生的顏色和亮度的隨機變化的不一致。例如，當您將兩個不同的圖像拼接在一起時，或者將一個對象從圖像的一個部分復制并粘貼到另一個圖像時，這種背景噪聲就不匹配，就像墻上的污點覆蓋著略微不同的顏色。

與許多其他機器學習系統一樣，Adobe使用編輯圖像的大型數據集進行教學。由此，它學會了發現篡改的常見模式。它在一些測試中得分高于其他團隊建立的類似系統，但并不是那么顯著。然而，該研究沒有直接應用于發現使用人工智能創建的新版編輯視頻的深度偽造。

“這些新ML方法的好處在于它們具有發現不明顯且以前不為人知的文物的潛力，”數字取證專家Hany Farid告訴The Verge。“這些方法的缺點是它們只能提供給網絡的訓練數據，并且至少現在不太可能學習更高級別的偽像，如陰影和反射幾何形狀的不一致。”

除了這些警告之外，很高興看到更多的研究可以幫助我們發現數字假貨。如果那些發出警報的人是正確的，我們將走向某種后真相世界，我們將需要我們可以從虛構中對事實進行排序的所有工具。人工智能可能會受到傷害，但它也有幫助。