你能區分真實人臉和AI生成的虛假人臉嗎？

WhichFaceIsReal.com由來自華盛頓大學的兩位學者Jevin West和Carl Bergstrom建立，他們都研究資訊如何通過社會傳播。他們認為人工智慧產生的虛假臉部影象的興起可能是麻煩的，破壞了社會對證據的信任。

“當這樣的新技術出現時，最危險的時期就是技術出現在那裡，但公眾卻沒有意識到這一點，”Bergstrom告訴The Verge。“那時它可以最有效地使用。”

“所以我們要做的就是 教育 公眾，讓人們意識到這項技術就在那裡，”West表示。“就像最終大多數人都知道你可以利用Photoshop對一張照片進行處理一樣。”

ThisPersonDoesNotExist.com生成的虛假臉部影象

兩個 網站 都使用稱為生成對抗網路（或簡稱GAN）的機器學習方法來生成虛假影象。這些網站通過大量資料（真實人物的大量肖像）進行操作; 學習其中的模式，然後嘗試複製他們所“看到”的內容。

GAN之所以如此優秀，是因為它們會自己進行測試。網路的一部分生成面部影象，另一部分將它們與訓練資料進行比較。如果它可以區分，生成器將被送回繪圖板以改善其工作。這些技術可用於處理音訊和 視訊 以及影象。雖然這些系統可以完成的任務有限，但它們正在穩步提升。

在這個人工智慧生成的臉部影象的案例中， Bergstrom和West指出，一次惡意攻擊可能會在恐怖襲擊事件後傳播錯誤資訊。例如，人工智慧可用於生成線上傳播的假罪魁禍首，在社交網路上傳播。

在這些情況下，記者通常會嘗試使用谷歌的反向影象搜尋等工具來驗證影象的來源。但這不適用於AI虛假影象。“如果你想在這種情況下注入錯誤的資訊，如果你張貼了犯罪者而且是其他人的照片，那麼它會很快得到糾正，”Bergstrom表示。“但如果你使用一個根本不存在的人的照片？想想跟蹤它的難度。”

他們指出，學者和研究人員正在 開發 大量可以發現深度偽造的工具。“我的理解是，現在它實際上很容易做到，”West指出。通過上面的測試，你可能發現你可以區分AI生成的臉部影象和真實的臉部影象。

“但這些虛假照片會變得更好。在三年後，[這些虛假影象]將難以區分，”West表示。當這種情況發生時，知道將是成功的一半。Bergstrom稱：“我們的資訊絕不是人們不應該相信任何事情。我們的資訊恰恰相反：它不是輕信。”