為何虛假新聞能夠在 Twitter 上掀起滔天巨浪？
AI 前線導讀：隨著整個世界對於“虛假新聞”的圍追堵截，很多朋友可能認為這類問題已經不復存在。然而，由於社交媒體機器人仍在以遠高於正常人類使用者的速度釋出資訊，這些低可信度內容正繼續肆虐於社交媒體之上。
來自布盧明頓印第安納大學的一組研究人員最近進行了一項開創性研究，旨在確定低質量新聞網站到底是如何將這麼多可疑文章交付給大量讀者的。當然，大家可能已經猜到了結果——答案正是機器人。
TNW 採訪了領導此項研究的 Filippo Menczer 教授。他告訴我們，儘管機器人相關帳戶在與低可信度新聞相關的全部帳戶中僅佔很小部分比例，但它們對於這些文章在 Twitter 上的傳播卻產生著巨大的影響。
Menczer 團隊的研究結果表明，機器人的作用是在虛假新聞釋出之後為其造勢，從而拉高文章本身的熱度。此外，機器人還負責將其轉發至有政治影響力的人士處，以進一步增強虛假內容的傳播可能性。
少年釋出了一張照片，其中展示了他父親的民眾支援率；同時人為地誇大了特朗普的這一結果，以確保其民眾支援水平看似高於奧巴馬。
{“class”:“right”}— William LeGate (@williamlegate) ofollow,noindex">2018 年 8 月 8 日
根據該團隊最近釋出的研究論文（ https://www.nature.com/articles/s41467-018-06930-7）：
在文章傳播之前，機器人即會在早期釋出過程當中放大其中的內容。機器人還會通過回覆以及針對性地提及擁有大量粉絲的使用者拉高文章熱度。人類很容易受到此類操縱活動的影響，進而轉發機器人釋出的內容。各類成功的低可信度資訊源，實際上都高度倚重於社交機器人的幫助。
該團隊分析了 1360 萬條與低可信度內容相關的推文，而後進行模擬，並發現將機器人內容排除在外將使這些低可信度文章的轉發總量減少達 70%。
很明顯，低可信度內容的傳播依賴於機器人，但最大的問題在於如何檢測哪些帳戶背後實際由機器人操控。Menczer 在接受 TNW 採訪時指出，這是社交媒體領域中的一個系統性問題，而不僅僅是 Twitter 自己的問題。不過 Twitter 的資料最容易訪問，因此他的團隊才決定以此作為研究起點。
遺憾的是，由於社交媒體龐大的規模與覆蓋範圍，我們再也無法弄清基礎分析或者使用者民間調查的真實狀況。印第安納大學必須建立起一套機器學習系統，用以識別社交媒體上的機器人 ; 此外，還需要一套分析平臺從而對 Twitter 上的資訊傳播途徑進行視覺化處理。
這兩套平臺已經成為現實， Botometer 與 Hoaxy 的出現幫助 Menczer 和他的團隊成功分辨出哪些帳戶（可能）由機器人操縱以及這些機器人的實際成效。
解決方案
我們已經迎來新的歷史節點：當下，社交媒體上出現的主觀論斷已經幾乎不可逆轉。惡意人士可以利用 Twitter 作為溫床測試並傳播各種謊言，從而輕鬆確定其中哪些適合作為政治家拉攏民心的資本。而低可信度網站的大量湧現使得這些虛假新聞能夠極為輕鬆地被廣泛覆蓋，最終建立起一個圍繞謊言展開的反饋迴圈。
解決這個問題的方法之一，在於限制或者消除社交媒體上的機器人。雖然機器人在行善之時擁有極大力量——包括髮布合法新聞，幫助小型企業宣傳自身並與客戶互動，甚至是作為使用者無聊時可以“調戲”的物件——但其同時也已經成為一種足以左右人們認知的有力武器。
但必須承認，機器人禁令只是一種最粗暴無腦的本能反應。對於合法利用機器人進行娛樂或者學術目的的受眾來說，一紙禁令只會引發巨大的抗議與反彈。
加利福尼亞州最近出臺了相關立法 ，宣佈除非建立者在機器人的社交媒體資料當中明確提到其並非人工操作，否則機器人帳戶操作將被視為刑事犯罪行為。這項舉措的出臺似乎有望阻止加利福尼亞州內利用機器人擾亂社交媒體秩序的活動，但在我們看來，相關法律的具體執行仍然困難重重。
更遺憾的是，就目前來講，唯一可行的解決方案就是提升我們自己的認知水平與分辨能力。
麻省理工學院社交網路資訊傳播專家 Sinan Aral 並沒有參與印第安納大學團隊的研究，他在接受 Science News 採訪時就此給出自己的意見：
我們自身也需要對這個問題承擔起一定責任，包括擦亮雙眼、不轉發虛假資訊等等，這些都是我們需要直面的責任。
更具體地講，由於那些價值數十億美元的技術企業沒有能力確保自己的服務不被由簡單程式碼行構建的機器人所濫用，我們身為使用者就只能投入時間免費為其監管網路。
但實際上，我們大多數人都沒有時間去一一探究那些看似可疑的新聞報道背後到底有著怎樣的真相。更糟糕的是，使用者往往需要經過數小時甚至是數天，才能得到有說服力的事實以判斷自己看到的內容是否屬於虛假新聞。
解決問題的答案之一，在於利用人工智慧技術實時自動檢查相關事實，以便受眾群體能夠在閱讀新聞之前選擇以怎樣的心態或者置信度看待這一切。這並不算是理想的解決方案，但確實能夠為那些意識到自己身陷虛假新聞泥潭的讀者們帶來一點希望。
為此，TNW 與 OwlFactor 公司創始人兼 CEO Arjun Moorthy 進行了交流。該公司打造出一款瀏覽器外掛，能夠利用機器學習技術來判斷當前文章是否符合特定的報告標準（ https://www.owlfactor.com/static/about.html）。
我們詢問 Moorthy，他對於 OwlFactor 的文章評級系統抱有怎樣的期望：
總結來講，我們希望利用這些評級系統以不同於其它網站的方式呈現高質量內容。大多數網站，特別是社交媒體上的網站，往往會根據受歡迎程度突出顯示某些內容。而受歡迎的程度往往基於分享 / 贊 / 喜歡等推動性指標 ; 或者是基於作者自身的人氣，即關注者 / 粉絲數量。OwlFactor 完全立足評級系統進行內容篩選，而不考慮任何流行度指標。
這有望指引我們擺脫以文章受歡迎程度來證明其實際質量的想法。另外，由於 OwlFactor 不會引導讀者的喜好與習慣（當然，該公司確實希望能夠提供此類整合服務），因此這種不存在偏見的洞察見解可能為身處不同政治立場的使用者帶來幫助。
時至今日，我們已經被社交媒體機器人以及受此影響而無辜站隊的使用者所淹沒。更具體地講，任何自認為沒有受到錯誤資訊影響的社交媒體政治話題參與者，實際上都已經在不知不覺中成為輿論誘導的受害者。
而且隨著 2020 年下一屆美國總統大選的日益臨近，這種情況只會變得更糟。
