楊冪換臉上熱搜，1億網友被AI騙了
「創業最前線」旗下「科技最前線」原創出品
作者 | 機場等船
今天，楊冪因為「換臉」上了微博熱搜。
別誤會，這裡的“換臉”並不是整容，而是B 站 UP 主「換臉哥」用AI技術將楊冪的臉替換掉了94 版《射鵰英雄傳》朱茵的臉。
94版朱茵飾演黃蓉替換前：
94版朱茵飾演黃蓉替換後：
「換臉哥」製作的視訊無論從人臉的輪廓還是人物的表情根本看不出來移花接木的痕跡。因為太逼真，一經上傳就在網上引起了軒然大波。
網友都被這樣的操作驚呆了，微博話題閱讀量瞬間飆到1.1億。
誰能想到在技術的加持下，流量演員搖身一變就能成為演技派，以後「換臉」技術大概率會成為摳圖表演者的新“捷徑”：
不過，有了這一技術大家的眼睛也能減少忍受某些演員「菩薩知不知道我心裡有多難過」這樣驚悚的的表演：
或是減少某位港星用哭戲成功把大夥逗樂的尬演：
「換臉哥」製作這段逼真視訊的工具叫 Deepfake ，這一AI 技術在國外已經火了兩年多。
（視訊中左側為真實視訊，右側是Deepfake合成）
當年，美國國防部把這項技術譽為人類對於AI的軍備競賽的一個開端，能把視訊中的人臉換成其他人，同時保持臉部肌肉運動和諧，口型和聲音匹配。
（Deepfake合成後的「希拉里·川普」）
但Deepfake技術卻在2018年才意外走紅。
因為國外著名成人網站Reddit上出現了一段《神奇女俠》主演蓋爾·加朵的小片：蓋爾·加朵被推倒在床，一番搔首弄姿後，就是各種辣眼睛的場面…
蓋爾自己看了都會流淚，簡直不敢相信…
實際上，這個視訊正是利用 Deepfake 合成的，蓋爾·加朵（右）的臉替換了色情女星PepperXo（左）的臉。
（色情女星PepperXo「左」，蓋爾·加朵「右」）
很多人以為這樣的視訊合成需要專業人士，但其實合成蓋爾·加朵這樣的視訊只需要4步：
- 收集照片
- 從原始照片中提取面部影象
- 在照片上訓練模型
- 使用模型進行轉換
首先，在社交網路上搜索大量蓋爾·加朵和某成人女星的靜態圖片和視訊丟給系統進行深度學習。
搜尋到的照片和視訊越多，學習樣本就越多，生成的臉譜圖細節還原度也就越高。
接著，Deepfake會自動生成對抗網路(GAN)，GAN中兩個機器學習(ML)模型一個在資料集上訓練後生成虛假音/視訊，另一個則試圖檢測這些偽造物。
兩個模型每次的對抗結果都會生成網路製作時使用到的引數。
最後，直到鑑別器無法辨別它生成的作品和真跡，選中系統的訓練視訊進行換臉，再設定合適的幀率，就可以得到一段自制 Deepfake 視訊。
甚至，在視訊的製作過程中聲音也可以利用技術做PS模擬處理：
視訊中的人和物也能按照要求「無中生有，有中變無」。
既然利用AI技術換臉如此容易，那麼用“AI”對抗“AI”來檢測，結果會如何？
瑞士Idiap研究所兩位科學家對「人臉識別方法檢測DeepFake」進行了較為全面的測評 ，並發表了論文。
兩位科學家先後測試了兩套前沿且先進的人臉識別系統：一個是效能最優的影象分類模型 VGG，另一個是基於 Facenet 的演算法。
結果顯示：AI分辨真假視訊錯誤率高達 95%！
理論上而言，只要你給 Deepfake自動生成的對抗網路(GAN) 我們當前掌握的所有鑑證技術，它就能繞過所有這些技術。
在這場「假臉生成」和「真臉識別」演算法的對抗賽中，Deepfake 無疑贏了。
2019年1月，荷蘭DeepTrace實驗室釋出了一份DeepFake發展報告，資料顯示2018年“deepfake”關鍵詞的谷歌搜尋次數比2017年增長了1000倍。
要知道Deepfakes在2017年11月前每月搜尋次數僅100左右，到了2018年7月每月搜尋次數已經上升到100萬次-1000萬次。
黑客利用Deepfake「換臉」的受害者除了蓋爾·加朵，還包括黛茜·雷德利、娜塔莉·波特曼等一眾好萊塢女星。
國外著名成人網站Pornhub上利用AI換臉的音/視訊作品一度達到8000萬部，它們根據影星、動作、專業程度等標籤進行分類。
甚至，在Reddit上出現過專門的討論區，熱衷於為女明星製作假視訊的成員有近4萬之多。
好萊塢女星斯嘉麗·約翰遜在華盛頓郵報的採訪中表示：
“讓任何一個人成為這項技術的攻擊目標只是時間問題。”
（圖注：演員斯嘉麗·約翰遜）
在這種前沿技術面前，每個人都可能成為潛在的受害者。
一旦被人濫用，真實照片與語音模擬器或語音合成系統相結合，就可以生成任意“假新聞”，任何人可以變成任何人。
那些由於技術濫用對當事人造成的傷害，對整個社會造成的反噬，是人類對新技術缺乏敬畏必須付出的代價。
AI面前，人類必須保持敬畏之心。
部分素材參考：
量子位《朱茵變楊冪，流量一個億》