騰訊技術工程 |騰訊報告TensorFlow首個安全風險 谷歌確認並致謝
阿新 • • 發佈：2018-01-31
毫無 google afa 事件 繼續 人工 ogl asi 最新版本 日前，騰訊發現谷歌人工智能學習系統TensorFlow存在嚴重安全風險，可被黑客利用帶來安全威脅。據悉，該風險是TensorFlow首個自身安全風險，騰訊安全平臺部預研團隊已向谷歌報告這一風險並獲得致謝。
騰訊安全平臺部預研團隊發現，攻擊者可以生成Tensorflow的惡意模型文件，對AI研究者進行攻擊，對受害者自身的AI應用進行竊取或篡改、破壞。該風險危害面非常大，一方面攻擊成本低，普通攻擊者即可實施攻擊；另一方面迷惑性強，大部分AI研究者可能毫無防備；同時因為利用了TensorFlow自身的機制，其在PC端和移動端的最新版本均會受到影響。AI模型被竊取，損失的是開發者的心血；而一旦被篡改，造成AI失控，後果更難以想象。
谷歌官方負責人稱，考慮到TensorFlow在AI的廣泛使用，TensorFlow官網將會像大多數重要軟件一樣在網站創建安全公告頁面，及時披露和修復安全漏洞。
據了解，Google的TensorFlow作為開源框架被互聯網廣泛使用。根據官方介紹，該框架在谷歌、ebay、airbnb、twitter、uber、小米、中興等公司均有使用。在TensorFlow中，AI研究者可以復用他人建好的模型來進行AI訓練，或直接提供AI服務，大大提高開發效率。這些公開的模型通常以文件形式提供，也普遍被認為是無害的。此次安全事件也讓關註該領域的開發者對開源框架的潛在風險提高了警惕。
騰訊安全平臺部安全預研團隊不僅聚焦AI、移動及IoT前沿領域的安全問題研究，同時也曾向google，apple，微軟，adobe等公司報告多個安全漏洞並多次獲得官方致謝。此外，他們對無人機、無線電、物聯網、智能樓宇的安全問題也有研究。未來，騰訊安全平臺部安全預研團隊也將繼續致力於為互聯網與科技發展的安全保駕護航。
騰訊技術工程 |騰訊報告TensorFlow首個安全風險 谷歌確認並致謝