國防部怎麼去規劃人工智慧

原標題：國防部怎麼去規劃人工智慧

雖然人工智慧可以在戰鬥自動化中扮演許多角色，但權衡風險（尤其是圍繞機器學習的風險）並相應的對其進行補償是至關重要的。

研究人員警告稱：人工智慧的風險是很大的。機器學習也很容易被愚弄，而強化學習（或從環境互動中學習）會產生創新但不可預測的人工智慧。考慮到攻擊者相對於防禦者固有的網路安全優勢，在軍隊中使用人工智慧可能會導致難以估計的災難性失敗。

然而，這些風險可以在幾個方面得到緩解，這可以概括為兩個原則：

1、在其他地區、實驗室和國家之間建立一個資訊網路

建立管理人工智慧及其風險的國際機構和標準，以及參與軍方對話以分享其研究成果，這將防止意外衝突，促進對“文書、協議和條約”的擬訂。

2、專注於防守策略

將機器學習開發集中在“殺傷鏈”之外的過程中，如物流、系統診斷和防禦網絡，使防禦者在虛擬戰鬥區裡有更大的控制權，從而將風險降至最低。此外，對機器學習的可預測性、穩健性和安全性進行更深入的研究，這將在當前有利於高風險攻擊的網路環境中擁有長期優勢。在改變網路攻擊和防禦之間的平衡方面，國家安全部門可以發揮關鍵作用。