能自制小電影的 DEEPFAKE 比你想的更危險 ｜ VICE 直擊

去年12月 Reddit 使用者 “deepfakes” 釋出了一段轟動網路的色情片，給裡面的女演員換上了 “神奇女俠” 蓋爾·加朵的臉。這個片子裡的她不會眨眼睛，但不仔細看的話足以以假亂真。換臉黃色小視訊馬上到處湧現，結果沒多久，這類 “非自願色情視訊” 很快就被各大平臺封禁。

但除了滿足一些人的性幻想之外，這種技術有著巨大的潛在危害。網路上開始出現大量使用 deepfake 換臉的 “正經視訊”—— 奧巴馬根本沒有說過的演講，連特朗普自己都不知道自己做過的事情，尼古拉斯凱奇從來沒演過的片段，都以 deepfake 的形式出現在了網上，毫無疑問，隨著技術進步，這種視訊越來越逼真，沒有人能用肉眼區分出視訊的真假。

8月， SIGGRAPH （Special Interest Group for Computer GRAPHICS，計算機圖形影象特別興趣小組）在溫哥華舉辦會議， Google、Adobe 等眾多科技公司和研究機構齊聚於此。會上展示了全新的實時視訊換臉技術，並表示會盡力防止濫用，美國國防高階研究計劃局也要花2800萬美元開發辨識和破解 deepfake 視訊的方法。但就算科學家能認出視訊的真假，你用肉眼看得出來嗎？