AI時代，人們還有隱私可以保護嗎？
當AI越來越懂人類時，大家擔心，自己會不會變成“透明人”？AI能為人類建立一個安全可信的智慧未來嗎？未來，AI會掌控世界嗎？當AI掀起一波又一波的熱潮，對於AI帶來的不安全性、不穩定性以及威脅性，人們也越來越關注。在2018世界人工智慧大會安全高階對話論壇上，一系列關於AI安全的問題被丟擲，而在論壇上正式釋出的《人工智慧安全發展上海倡議》中，也提出了應對人工智慧安全風險應對和未來發展的建議。人工智慧是一把雙刃劍，要用新的“遊戲規則”讓新技術與人類文明形成良性互動。Part.1
應對智慧機器的權利進行限制
不可否認，AI極大地解放了社會生產力，從各個角度為生活帶來更多的便利。但同時，也因為AI技術的不成熟和管理模式的不完善，人工智慧安全事件頻發，衍生出一系列倫理、法律和安全難題，這是人工智慧發展過程中無法迴避的問題。一方面，人類在不斷設計出一代又一代更為先進的“智慧”，另一方面，卻又小心翼翼地警惕著人工智慧的“背叛”。
人類的規範、道德和AI是一對“矛盾體”，在眾多專家看來，在人工智慧研發全過程中，需要優先設計安全與倫理問題，將人類規範和道德價值嵌入人工智慧系統，最大限度的消除人工智慧不利影響，為人類建立一個安全可信的智慧未來。
愛因斯坦、達芬奇等都是高智商的代表，而有了智慧的機器人，IQ值會遠遠超出人類，據預測，隨著計算機智慧程度的不斷提高，20年後人工智慧的IQ將達到10000，而且在數量上也將全面趕超人類。
未來如果人工智慧擁有和人類相似的感知，是否也應當和人類一樣擁有一定的權利？百度CEO李彥巨集在本屆世界人工智慧大會上表示，AI倫理必須堅持四個原則：AI的最高原則是安全可控；AI的創新願景是促進人類更平等地獲取技術和能力；AI的存在價值是教人學習，讓人成長，而非超越、替代人；AI的終極理想是為人類帶來更多自由與可能。
人工智慧也許不具有人類的價值觀和情感，但AI仍需構建自己的倫理體系。峰橋集團總裁陳實告訴《IT時報》記者，各國都應重視對人工智慧安全倫理規範的思考，將技術發展與社會倫理置於相同的環境下充分思考，減小人工智慧帶來的倫理衝擊，保證人工智慧在全世界共同的倫理規範內健康發展。“人類賦予智慧機器某些權利是合理的，智慧機器應該擁有得到尊重的道德權利。不過，在賦予智慧機器某些權利的同時，我們更應該對智慧機器的權利進行限制，以確保人工智慧機器對人類是友好的。”
Part.2
AI造就“透明人”
華東政法大學人工智慧與大資料指數研究院院長高奇琦曾提出“透明人”的概念，他說未來的人都是透明人，這是無法阻擋的趨勢。“如果有心人專門去搜集你在微信朋友圈、微博及其他社交工具上留下的資訊和痕跡，很容易就得到個人隱私資料。”高奇琦告訴記者。
近年來，關於資料洩露的報道時有發生，比如最近發生的華住酒店洩露使用者隱私、臉書5000萬用戶的個人資訊被英國劍橋分析公司竊取等，在大資料面前，人類幾無隱私可言。但是，大資料的應用又和人工智慧緊密關聯，因此，誰擁有大資料的所有權、使用權、由誰來負責大資料的監管以保證其被合理合法使用、如何保護隱私和資訊保安等就成為人工智慧時代極其棘手的問題。
碁震KEEN公司創始人王琦向《IT時報》記者表示，在人工智慧時代，使用資料是不可避免的，而且資訊洩露也並非是人工智慧時代獨有的問題。“但如果到了人工智慧時代不加以約束的話，後果要嚴重得多。”王琦表示，他自己非常介意在使用各種智慧裝置時要開啟攝像頭等各種許可權，但是不賦予許可權就沒法使用，物聯網可能使個人隨時處在智慧裝置的監控之下。
如何解決這個問題？需要從法律層面和技術層面共同解決。“法律能讓廠商在研發過程中更注重安全，也能提高違法成本。用法律的手段讓人工智慧行業的從業者加強自律，保持敬畏之心。”王琦說，上海優刻得資訊科技公司CEO季昕華表示，需要技術手段對人工智慧進行約束，“讓AI可以分析資料，但是不獲取資料，這應該是技術層面努力的方向”。
對此，王琦認為，其公司在進行漏洞攻擊時，經常需要採集各種資料，採集之後會對資料進行脫敏處理，“但是如果用人工智慧的‘眼光’審視這些脫敏資料，就真的安全嗎？人工智慧就一定不會從脫敏資料中推測出關鍵性的結論嗎？現在還很難判斷。”
Part.3
用AI打擊黑產
人工智慧時代，網路安全形勢更加嚴峻和複雜，但人工智慧技術也能在網路安全漏洞檢測、惡意軟體識別、不良資訊智慧稽核、防範網路犯罪等方面發揮獨特作用。可以說，人工智慧也在賦能網路安全。
當下的新型網路安全態勢感知的基本原理是利用資料融合、資料探勘、智慧分析和視覺化等技術，實時直觀地顯示網路安全狀態，並對網路安全趨勢做出預測，為網路安全威脅預警和防護提供參考。“人工智慧在安全態勢感知系統的運用主要分為五個步驟，第一步是提取網路中的安全裝置(如防火牆)、網路裝置(如路由器、交換機)、服務和應用(資料庫、應用程式)的資料，對資料進行標準化和修訂以及標註事件基本特徵等；第二步是對在感測器採集環境中獲取的資料做去噪、雜質過濾等預處理；第三步融合不同來源的資料；第四步選擇人工智慧演算法進行態勢識別、態勢理解和態勢預測；最後一步完成關聯分析和態勢分析，形成的態勢評估結果以分析報告和綜合網路態勢圖呈現，輔助決策。” 騰訊安全管理部高階總監毛晟斌說。
以騰訊守護者計劃為例，其基於AI人工智慧和神經網路的分析能力，引入多維度的動態驗證機制對抗相關黑產。去年，守護者計劃安全團隊利用上述技術協助警方打擊“快啊答題”“光速打碼”這兩個國內最大的使用人工智慧神經網路破解識別驗證碼的打碼平臺黑產團伙。
Part.4
“應給人工智慧配剎車”
正如中科院院士何積豐所說，技術是中性的，“人工智慧能對惡意程式碼進行預測和破解，但是也能成為開發工具的漏洞，此外，人工智慧演算法具有不確定性，通常我們不知道人工智慧怎麼工作、怎麼得出結果。”
雖然人工智慧在各個領域如同聲傳譯、寫新聞稿、協助醫生看病、戰勝圍棋世界冠軍等讓人類刮目相看，但在何積豐看來，如果把人工智慧分為弱人工智慧、通用人工智慧和強人工智慧，當下勉強可以算得上是通用人工智慧。
中國資訊通訊研究院釋出的《人工智慧安全白皮書》顯示，在人工智慧相關的政策法規、標準規範上，目前各國大多處於建設初期或研究階段。
中國資訊通訊研究院安全研究所高階工程師牛金行介紹說，以無人駕駛為例，美國、德國都將安全作為自動駕駛第一準則，但均未形成統一的安全評測標準體系和方法。同時，各國政府目前多數靠約束企業自身開展測試驗證工作，缺乏獨立的第三方評測認證機構。除了要解決人工智慧使用中基本的安全問題外，使用者與服務提供者的責任界定也應予以明確界定。
去年7月，國務院在印發的《新一代人工智慧發展規劃》中提出，到2020年，我國人工智慧核心產業規模超過1500億元，帶動相關產業規模超過1萬億元。此外，人工智慧的“獨角獸”不斷湧現。
人工智慧能為保障國家網路安全等提供新手段和新途徑，但在應用落地過程中，因為技術的不確定性，會產生諸多的挑戰。在上海國際問題研究院全球治理研究所副研究員魯傳穎看來，應該給人工智慧配剎車，讓產業更快更穩。
