1. 程式人生 > >生物智慧與AI——關乎創造、關乎理解(上)

生物智慧與AI——關乎創造、關乎理解(上)

幾百萬年前,第一次人類智慧的星火出現在非洲大陸,並且持續發展,最終在大約10萬年前在智人的大腦中達到頂峰。作為現代人類,我們只能想象我們的古代祖先在窺視夜空時所經歷的事情,以思考物理現實的本質,以及從內心窺視自己心理現實的本質。在過去的幾百年裡,我們的物種通過發現控制空間、時間、物質和能量的基本數學定律。在發展對物理現實的精確理解方面取得了巨大的智力進步,現在已經在量子力學的大框架中被編纂。然而,我們正處於探索心理現實本質的最初階段。尤其是人類智慧是如何從100億個突觸連線的1000億個神經元的生物溼件中產生的?神經科學,心理學和認知科學等現代學科在過去100年中取得了重要進展,為解決這一重大問題奠定了基礎。

但是,當涉及到我們的心智慧力時,對於現代人來說,僅僅理解它們是不夠的,我們非常希望在無生命系統中重現這些功能。本質上,人類作為進化的產物,有時也渴望扮演創造者的角色。這種嚮往滲透在人類文學的作品,事實上,人工智慧(AI)這個新興領域,通常與神經科學,心理學和認知科學領域合作,在創造具有類似人類能力的機器方面取得了巨大進步。在這篇文章中,我將進一步探討人工智慧,神經科學,心理學和認知科學以及數學,物理和社會科學中的聯合學科在過去和未來將繼續如何共同努力追求交織在一起的理解和創造智慧系統的過程。

生物學與人工智慧之間的富有成效的合作

在過去的60多年中,AI的發展受到了神經科學和心理學的深刻影響,其中也受到了神經科學和心理學的啟發。在早期的幾十年中,許多AI從業者在神經科學和心理學方面進行了很好的研究。在這裡,我提供了神經科學,心理學和AI之間過去的相互作用:

l  這種相對簡單的元素(神經元)的分散式網路能夠實現源於神經科學的人類智慧的顯著計算,並且現在以神經網路的形式滲透到AI系統中。這個想法並不總是顯而易見的,在大約一百年前,在高爾基和卡哈爾之間的著名辯論之後,它才變得堅定。

l  包括多維尺度和因子分析在內的各種降維技術最初是在心理測量學研究的背景下開發的。

l  著名的神經科學家霍勒斯·巴洛(Horace Barlow)發明了分解程式碼的概念,這反過來啟發了獨立成分分析(ICA)和當前的AI研究,旨在解開資料變異的獨立因素。

l  托爾曼在認知圖上的工作提供了方向,使得我們可以使用這些模型進行規劃和導航。這鞏固了內部模型形成作為動物智慧的關鍵組成部分的思想,這部分目前處於人工智慧研究的前沿。

l  Hopfield網路是理論神經科學的一個模型,為思考分散式、可定址的儲存器和檢索提供了一個統一的框架,也啟發了Boltzmann機器,這反過來又為證明深度神經網路模型的成功提供了關鍵的第一步。它還啟發了許多弱約束的分散式以滿足作為AI計算模型的想法。

l  目前主導機器視覺的深層卷積網路的關鍵核心直接受到大腦的啟發。其中包括腹側流中的分層視覺處理,它表明深度的重要性;視網膜的發現是整個視覺皮層的組織原理,導致卷積的出現;發現簡單和複雜的細胞激發了最大池化等操作。

l  關於稀疏編碼的研究工作是為了理解初級視覺皮層中定向邊緣檢測器,導致稀疏編碼成為現代AI系統中的基本構建塊。

l   時序差分學習等演算法現在是強化學習領域的基礎,它受到經典條件反射的動物實驗的啟發。

l   反過來,強化學習對基底神經節功能的解釋具有顯著影響,其中多巴胺能為基底神經節提供了非常重要的獎勵預測誤差訊號,該訊號也驅動許多強化學習演算法。

l 大腦中儲存系統的模組化啟發了現代記憶神經網路,其在一定程度上將儲存器儲存和執行控制電路的操作分開,其決定何時從儲存器讀取和寫入。

l 人類注意力系統激發了注意力機制和神經網路的結合,這些神經網路可以被訓練以動態地注意力或忽略其狀態和輸入的不同方面以進行未來的計算決策。

l 語言學和認知科學中正式生成語法的發展導致概率語法的發展和CS的解析。

l Dropout等現代正則化技術的靈感來自於神經動力學的內在隨機性。

人工智慧未來的生物學啟示

儘管當前人工智慧系統在監督模式識別任務方面取得了顯著的商業成功,但模擬人類智慧仍然有很長的路要走。在這裡,我將概述一些個人觀點,其中我認為生物學和人工智慧領域可以攜手前進。

1、生物學上可信的信用分配(plausible credit assignment)

信用分配問題可能是神經科學和人工智慧領域最大的開放性問題之一。很明顯,假設你正在打網球而且你沒有擊中球。你的100萬億個突觸中有哪一個應該受到指責?大腦如何在你的運動系統中專門找到並糾正突觸組,尤其是在錯誤發生後幾百毫秒內通過視覺系統傳遞錯誤時?在AI中,這種信用分配問題在許多情況下通過多層計算的反向傳播來解決。然而,目前尚不清楚大腦如何解決這個問題。真實的情況是,大腦使用本地學習規則解決它:即每個突觸僅使用物理上可用的資訊來調整其強度,例如,由突觸連線的兩個神經元的電活動來獎勵和懲罰的任何神經調節輸入。解釋這些本地突觸規則是什麼以及它們如何工作可能會對AI產生巨大影響,這可以一定程度上減少反向傳播的通訊開銷。但更一般地說,解決困擾神經科學和人工智慧的常見未解決問題應該通過將突觸生理學家,計算神經科學家和AI從業者聚集在一起來集體解決生物學上可信的信用分配問題來推動進步。

2、融合突觸複雜性

生物和人工神經模型之間的主要區別在於我們模擬連線神經元的突觸的方式。在人工網路中,突觸由單個標量值建模,反映乘法增益因子,轉換神經元的輸入如何影響神經元的輸出。相反,每個生物突觸都隱藏在極其複雜的分子訊號通路中。例如,我們對最近事件記憶的海馬突觸各自包含數百種不同型別分子的化學反應網路,同時它具有整個複雜時間處理能力的動力系統。

在看到這種複雜性後,理論家或工程師可能會試圖簡單地將其視為生物學上的混亂,而這種混亂就是一種進化的偶然事件。然而,理論研究表明,這種突觸複雜性可能確​​實對學習和記憶至關重要。事實上,在突觸具有有限動態範圍的記憶網路模型中,這樣的突觸本身就要求是具有複雜時間濾波特性的動態系統,以實現合理的網路儲存容量。此外,最近在AI中正在利用更智慧的突觸作為解決災難性遺忘問題的一種方法,其中訓練學習兩個任務的網路只能學習第二個任務,因為學習第二個任務會改變突觸權重以這種方式消除從學習第一項任務中獲得的知識。

一般地說,我們的人工智慧系統很可能通過忽略生物突觸的動態複雜性而取得重大的效能提升。正如我們為我們的網路新增空間深度以實現複雜的層次表示一樣,我們可能還需要為突觸新增動態深度以實現複雜的時間學習功能。

 

從系統級模組化大腦架構中獲取靈感

通常,當前的商業AI系統涉及具有相對均勻的分層或迴圈架構的訓練網路,其從隨機權重開始。但是,對於更復雜的任務來說,這可能是一個難以解決的問題。事實上,生物進化的道路卻截然不同。所有脊椎動物的最後共同祖先生活在5億年前。從那以後,它的基本大腦一直在發展,導致大約1億年前出現哺乳動物大腦,以及幾百萬年前的人類大腦。這種不間斷的進化鏈導致了一個錯綜複雜的大腦結構,具有高度保守的計算元素和巨大的系統級模組化。事實上,我們目前缺乏工程設計原則,來解釋像大腦一樣複雜的感測,通訊,控制和記憶網路可以在5億年的時間內不斷擴大規模和複雜性,同時永遠不會失去在動態環境中自適應執行的能力。因此,AI從大腦的系統級結構中獲取靈感可能非常有趣。

一個關鍵的系統屬性是功能和結構的模組化。大腦不像我們目前的AI架構是同質的,而是有不同的模組,如海馬(保留情節記憶和導航),基底神經節(潛在的強化學習和動作選擇)和小腦(自動化的運動控制和通過監督學習獲得更高層次的認知)。此外,人腦中的記憶系統(習慣記憶,運動技能,短期記憶,長期記憶,情景記憶,語義記憶)也是功能模組化的。此外,在運動系統中,巢狀反饋環架構占主導地位,通過簡單的快速迴圈在20毫秒內實現自動運動校正,稍慢的智慧迴圈通過運動皮層在50毫秒內實現更復雜的運動校正,最後經過整個大腦的視覺反饋實現對運動錯誤的有意識的校正。最後,所有哺乳動物大腦的一個主要特徵是由大量相似的6層皮質柱組成的新皮層,所有這些都被認為是在單個規範計算模組上實現的變異。

總體而言,現代哺乳動物大腦具有顯著的模組性,通過1億年的進化儲存下來,表明這種系統級模組化可能有利於在AI系統中實施。目前從白板上訓練神經網路的方法是不可能走向更普遍的人類智慧的途徑。實際上,系統級模組化的組合帶來的不同型別的糾錯巢狀迴圈和動態複雜的突觸可能都是解決生物學上可信的信用分配的關鍵因素。

 

原文連結
本文為雲棲社群原創內容,未經允許不得轉載。