DARPA擬發展可報告自身不足的人工智慧

2月19日，美國防高階研究專案局（Defense Advanced Research Projects Agency，DARPA）啟動了“競爭力感知機器學習（Competency-Aware Machine Learning）”專案，該專案的目標是發展可對自身行為建模、回憶以往經驗，並針對新環境新條件應用知識的新型人工智慧工具。國防高階研究專案局認為，獲得上述能力支援的人工智慧將能夠根據給定任務來評估自身的能力，並在無法勝任工作時告知其人類使用者。

當前的人工智慧系統最適用於非常清晰明確且目標單一的任務，如果任務環境條件發生輕微變化，即便是經過精細優化的系統也可能無法正常工作。例如一個用於分類犬隻的人工智慧工具可在日光照射下良好工作，但有可能在光照不良的情況下將一條金毛獵犬誤認作一條黑色拉布拉多犬。人工智慧系統無法判斷其自身在給定條件下所作決策的準確性如何，也無法知曉自身是否已針對當前任務進行足夠訓練，而在高風險快節奏的軍事行動領域，這樣的不確定性是非常危險的。因此，國防高階研究專案局在專案建議徵求檔案中指出，“機器需要取得其使用者的信任，機器學習系統才會從工具轉變為合作伙伴。建立信任的重要一環是瞭解機器的競爭長項，並深入地掌握機器的能力、經驗和可靠程度”。

按照國防高階研究專案局的規劃，參與該專案的科研團隊將在四年的時間裡，發展可進行“建立過往經驗的記憶”和“分析自身決策過程”兩項工作的系統原型，而後這些原型將在美國防部的平臺上進行部署和測試。將人工智慧從一個有用的工具，轉變為“可協作的夥伴”是國防高階研究專案局目前的優先工作方向之一。國防高階研究專案局還計劃在未來五年裡，投資20億美元發展所謂的“第三代人工智慧（Third-Wave AI）”，即可以通過推理來解決現實世界問題，併為其使用者提供新解決方案的人工智慧。

國防高階研究專案局當前還開展了一系列涉及人工智慧的研究專案，包括自動化科研過程的“人工智慧探索（Artificial Intelligence Exploration，AIE）”、將常識引入機器學習領域的“機器常識（Machine Common Sense）”、模仿昆蟲大腦的“微小尺寸仿生強化人工智慧網路（Microscale Biomimetic Robust Artificial Intelligence Network，MicroBRAIN）”和實現腦機介面的“下一代非手術植入神經技術（Next-Generation Non-Surgical Neurotechnology，N3）”等。

宣告：本文來自國際安全簡報，版權歸作者所有。文章內容僅代表作者獨立觀點，不代表安全內參立場，轉載目的在於傳遞更多資訊。如需轉載，請聯絡原作者獲取授權。