AI造假也有招可破，兩家初創公司正在行動
無論是使用數字合成技術（CGI）從零開始合成具有真實感的影象（這一過程極具挑戰性且花費巨大），還是藉助修圖神器 Photoshop 的幫助，偽造虛假影象和視訊都曾是一件需要花費大量時間和精力的事情。
而現在，人工智慧生成影象的出現使得任何人都可以更容易地對影象或視訊做出調整，使其產生令人混淆的真實效果。今年早些時候，《麻省理工科技評論》雜誌人工智慧方面的資深編輯威爾·奈特（Will Knight）就曾使用成品軟體，自己偽造了一則美國參議員特德·克魯茲（Ted Cruz）的虛假視訊。這則視訊會有一點失真的情況，但這一情況並不會持續很長的時間。
相同的技術正在被用於創造越來越多的視訊和圖片，人們稱之為“深度換臉技術（deepfakes）”。比起常見的以文字形式出現的虛假新聞，這些“深度換臉技術”更有可能破壞真相、誤導觀看者並在更大範圍內製造是非分歧。
這些可能性深深困擾著美國達特茅斯學院電腦科學教授哈尼·法裡德（Hany Farid），20 年來，法裡德一直致力於揭穿虛假影象的工作。他提醒道：“我認為我們並沒有做好準備”。但他希望，隨著越來越多的人意識到這一問題以及最新科技的發展，人們能夠做好充分的準備，在真實影象和通過技術操作所產生的創造品之間做出分辨。
圖丨拍攝於牛津大學佈雷齊諾斯學院（ Brasenose College）的一張原圖
圖丨使用修圖手段，將原圖中屋頂上代表非異性戀者（LGBTQ）的彩虹旗擦除的示例圖
法裡德解釋說，目前人們主要使用兩種途徑來應對識別影象過程中的挑戰。第一種方法是在影象中尋找修改的痕跡。影象取證專家們使用計算技術來判斷，是否任何畫素或元資料有修改過的痕跡。比如說，他們能找出不符合物理學定律的陰影或反射影像，或者通過檢視一個影象檔案被壓縮的次數，來判斷這個檔案是否已被多次編輯和儲存。
第二種方法是鑑別影象是否與剛被拍攝出來的那一刻一樣完整，這也是一種相對較新的方法。鑑別過程中需要進行數十次的核查，來確保攝像師沒有試圖偽造裝置的位置資料和時間標識。核查的內容還包括，相機的座標、時區、海拔高度和附近的無線網路資訊是否能彼此印證？作為一個三維場景，影象中光線的折射是否正常？還是說，這是有人用另外一張二維影象拍攝的照片？
法裡德認為，這第二種方法是一種非常理想的方式。因為每天有 20 億張圖片被上傳到網路之中，法裡德認為第二種方式將有助於大規模鑑別影象的實現。
兩家初創公司正在致力於將這一想法商業化，它們分別是來自美國的 Truepic（法裡德為其提供顧問支援）和來自英國的 Serelay。他們已經採取了一些相似的舉措：兩家公司都擁有能免費支援蘋果系統（iOS）和安卓系統（Android）的相機應用程式，這些程式將使用專有演算法，在拍照時自動鑑別影象。當一張影象獲得如同病毒一樣的廣泛傳播時，人們可以將其與原圖相比較，來檢視這張影象是否保留著與原圖一致的完整性。
Truepic 公司將使用者拍攝的影象上傳並儲存在伺服器端，而 Serelay 公司儲存的是各式各樣的數字指紋，這些數字指紋是通過在每張影象中對大約 100 個數學值進行計算而獲得的（該公司聲稱，哪怕是對單一畫素所進行的編輯，用這些數學值也足以檢測出來，它們還能大致判斷出影象中的哪一部分發生了改變）。
Truepic 公司說，他們選擇儲存完整圖片，是為了以防使用者出於安全原因而刪除某些敏感圖片（例如，某些在交戰地帶等高危情境下工作的 Truepic 使用者，可能需要在對現場進行記錄之後，立刻將應用程式解除安裝）。與之相反，Serelay 公司認為，不儲存使用者影象能為使用者提供更大的隱私空間。
為了更大程度獲得使用者的信任並提供安全保障，Truepic 公司還使用了區塊鏈技術來儲存所有的圖片和元資料——區塊鏈是比特幣背後的一項底層技術，它將加密技術和分散式網路結合起來，從而為資訊的儲存和追蹤提供保障。
法裡德承認“這第二種方式並不是絕對安全的”，他也表示說，這種方式仍有一些缺點。比如，使用者們必須在手機中使用此類能夠提供鑑別技術的軟體，而不是單純的相機應用程式。他也指出，相比於安全性，試圖將這種方法商業化的公司可能更看重貨幣化的實現。“而我們對開發這些應用程式的公司是寄予了一定信任的”，他說。
但目前也有一些策略能夠緩解這些缺點。Truepic 和 Serelay 兩家公司都提供了軟體開發工具包，讓第三方平臺能夠接觸到他們的技術。他們這樣做是希望，未來，他們的鑑別技術能成為數字相機的行業標準，這裡的數字相機包括臉書（Facebook）、色拉布（Snapchat）、甚至蘋果（Apple）公司開發的本地相機應用程式。到那時，在社交媒體上釋出的未經修改的影象都將自動獲得核查標記，就像推特（Twitter）目前使用的認證徽章標誌一樣，有核查標記意味著這張影象能夠與資料庫中的影象相匹配——Serelay 公司希望這種標誌能建立影象的可信度。
“我們在網路上看到的絕大多數內容都是通過移動裝置捕捉的”，法裡德說，“而基本上只有少數相機程式能在系統中加入這項鑑別技術，因此我認為這將是一個很好的解決方案”。
目前，這兩家初創公司都在與社交媒體公司談判，探索合作的可能性。同時，Serelay 公司也參與了臉書公司一個名為 LDN_LAB 的新加速器專案。
雖然這項技術還沒有普及，但法裡德鼓勵人們將其作為一種預設程式，在記錄高危情境時使用，這些情境可能是記錄政治競選演說、人權衝突、或是記錄犯罪現場的證據片段。目前，已經有民眾使用 Truepic 公司的應用程式來記錄敘利亞危機。阿拉伯半島電視臺（Al Jazeera）也在報道敘利亞危機時，使用鑑別功能製作了一些視訊。除此之外，兩家公司也都在保險行業推廣了這項技術，以此作為記錄損毀情況的一種可信方式。
“我，和許多像我一樣的無辜孩子，都將被殘忍殺害。”# 敘利亞伊德利卜（Idlib）的孩子們想對美國總統特朗普說的話 @realDonaldTrump. ofollow,noindex"> http:// pic.twitter.com/owd7DvZ WlB ————阿拉伯半島電視臺英語頻道 @AJEnglish 2018 年 9 月 9 日報道
法裡德表示，對於致力於這方面的公司來說，保持其產品的透明度並選擇可信的合作伙伴是非常重要的。前者有助於維持使用者的信任，後者有助於防範有不良居心的人。
法裡德說，要做好應對深度換臉技術擴散的準備，我們的路還很長。但他對此信心十足。“Truepic 和 Serelay 各自型別的技術都發展得很好”，他說，“在我看來，我們已經快要到達終點了”。