戴上“白帽子” 人工智慧投身網路安全攻防戰
|
面對計算機系統和網路的缺陷和漏洞，黑客們找準機會實施攻擊，白帽黑客則利用黑客技術來測試網路和系統的效能以判定它們能夠承受入侵的強弱程度。短短几年時間，人工智慧已進駐多個行業，落地無數場景。其中一些行業和場景已為大家所熟知，還有一些正在進入我們的視野，在網路安全領域，AI“白帽”正成為網路安全工程師的得力助手。
據報道，近日美國市場調研公司CB Insights釋出報告預測了2019年人工智慧行業的發展趨勢，其中一個趨勢便是用人工智慧發現網路威脅。
正在賦能網路安全“人工智慧技術的蓬勃發展，為網路安全攻防帶來的，不僅有機遇，也有挑戰。”北京理工大學網路攻防對抗技術研究所所長閆懷志接受科技日報記者採訪時說。
先說好的一面。360安全研究院鄒權臣博士告訴科技日報記者，目前人工智慧已經應用於惡意程式碼檢測、惡意流量檢測、威脅情報收集、軟體漏洞挖掘等網路安全領域。
“例如在惡意程式碼檢測方面，人工智慧通過對惡意程式的API呼叫序列、系統CPU利用率、收發的資料包等資訊，自動識別惡意程式碼的特徵，進而判定分類。”鄒權臣介紹，相比於傳統的基於動靜態分析的特徵檢測、啟發式檢測技術，人工智慧可以大幅度提升檢測的準確率。
360安全研究院研究員張德嶽介紹，在軟體漏洞挖掘方面，採用人工智慧技術從漏洞相關的資料中提取經驗和知識，並用訓練好的模型提高漏洞挖掘的精度和效率，可以緩解當前該領域研究遇到的一些瓶頸問題，具體應用場景包括漏洞程式篩選、原始碼漏洞點預測等。
“人工智慧在網路安全領域的應用日益廣泛，運用人工智慧賦能網路空間安全，主要體現在主動防禦、威脅分析、策略生成、態勢感知、攻防對抗等諸多方面。”閆懷志說，其中包括採用人工神經網路技術，來檢測入侵行為、蠕蟲病毒等安全風險源；採用專家系統技術，進行安全規劃、安全執行中心管理等；此外人工智慧方法還有助於網路空間安全環境的治理，比如打擊網路詐騙。
具備明顯“過人之處”
與傳統的應對網路安全的方式相比，人工智慧確實展示了其“過人之處”。
在閆懷志看來，人工智慧方法在解決人力所不及的安全大資料統計和抽取規律方面具備天然優勢，它能夠全面提高威脅攻擊的識別、響應和反制速度，提升風險防範的預見性和準確性。特別是在異常行為檢測等應用場景模糊的非精確識別和匹配方面，更是如此。
“人工智慧針對未知威脅和攻擊的檢測也更出色。因為傳統的特徵匹配方法對未知威脅幾乎無能為力，而人工智慧方法有時不需要先驗知識，對未知威脅的檢測能力較強。”閆懷志說。
不得不說，人工智慧系統還具備成本效益優勢。閆懷志認為，人工智慧可以在第一時間發現和識別預防威脅，並立即啟動應急響應，高效的智慧檢測流程有助於減少人工參與、簡化流程、降低成本、減小損失。
“傳統的應對網路安全的方法依賴於人工硬編碼定義、提取特徵的方式完成相關任務，而人工智慧可以直接對原始資料進行訓練，從大量的資料中提取特徵，自動完成分類判定的工作。”張德嶽說，如此一來後者既可以提高網路安全中預測、防範、檢測、銷控等各個風險環節的自動化和智慧化程度，又能提升響應速度和判定的準確率。
不能靠它包打天下“雖然人工智慧攪動了網路安全領域的一池春水，但是應該理性看待人工智慧在應對網路安全方面的優缺點，不能指望全靠人工智慧來包打天下。”閆懷志說，人工智慧在應對網路安全問題時，也有較強的侷限性。
鄒權臣分析，這一方面受限於人工智慧演算法本身的能力。因為傳統的機器學習技術依賴特徵提取，而演算法的效果和效能又依賴識別和提取特徵的準確性。深度學習具有在高維資料中自動提取特徵的能力，同時面臨著持續學習、資料飢餓、可解釋性等問題。
“另一方面機器學習、特別是深度學習過分依賴資料，但在惡意程式碼檢測、軟體漏洞挖掘等領域，目前仍然存在資料收集困難的問題，缺少較好的資料集用於訓練，影響對相關領域的研究。”鄒權臣補充說，另外人工智慧嚴重依賴於耗費計算資源，複雜的深度學習網路需要同時計算成百上千萬次的計算，需要強大的人工智慧晶片計算力的支撐。
閆懷志則從不同方面總結了人工智慧的不足。比如，易於忽視或者拋棄人類專家在網路安全領域的知識和經驗積累，對網路安全的複雜應用場景考慮不足，對於已知威脅的檢測效率遠低於傳統的精確特徵識別方法等。
“使用神經網路和深度學習等演算法，能夠較好地識別出未知攻擊威脅風險，達到"知其然"的目的，但是這些演算法通常無法揭示產生這種安全風險的基本機理，也就是"不知其所以然"，從而為從源頭防禦這種攻擊風險帶來極大障礙。”閆懷志說。
脆弱面帶來安全風險
人工智慧在應對網路安全問題時，有時甚至會展現出脆弱的一面。
“一個真實環境中的人工智慧系統，會面臨資料安全、模型/演算法安全、實現安全等多方面的安全威脅。”張德嶽告訴科技日報記者。
張德嶽舉例說，在資料安全方面，在資料收集與標註時出現錯誤或注入惡意資料，將導致資料汙染攻擊；在模型/演算法安全方面，針對人工智慧演算法存在黑盒和白盒對抗樣本攻擊，可導致識別系統出現混亂；在實現安全方面，除了人工智慧系統本身的程式碼實現，其所基於的人工智慧框架以及所依賴的第三方軟體庫中的軟體實現漏洞，也都可能導致嚴重安全問題。
“人工智慧對現有網路安全格局的影響，離不開演算法、資料和計算能力3個方面，其容易遭受攻擊的弱點也來自於此。”閆懷志總結說。
對於防範人工智慧的脆弱性所帶來的安全風險，閆懷志指出：首先要從體系架構、系統演算法容錯容侵設計、漏洞檢測和修復、安全配置等方面來增強人工智慧系統自身的安全性；其次，要用其所長，儘量減小其暴露給外界的潛在攻擊面；最後要構建網路空間安全綜合防禦體系，從安全技術和安全管理等層面來協同防範安全攻擊，間接減緩攻擊者直接針對人工智慧系統發起攻擊以及攻擊成功的可能性。
來自360安全研究院的專家也給出多個建議，其中包括：在資料獲取過程中，要加強對資料來源的控制與過濾，在一定程度上保證資料安全可靠；在資料傳輸過程中，要使用更加安全的傳輸協議與加密演算法；在人工智慧系統的實現中，要保證程式碼質量並進行完善的測試，此外還要及時更新或修補框架或依賴庫中存在的漏洞等。（記者 劉園園）