1. 程式人生 > >脈衝神經網路基礎性知識

脈衝神經網路基礎性知識

1、興奮性突觸與抑制性突觸的作用是分別是神經元細胞膜電位的增加與減少。

2、現在流行的人工神經網路所使用的神經元模型(例如ReLU)都是第二代神經元模型。它們主要用於處理模擬數值

3、脈衝神經網路使用的第三代神經元模型,第三代神經元的構建是受生物真實性的啟發,它能處理基於脈衝處理的訊號

4、脈衝神經網路的兩個優勢:1、計算效率高。2、具有更強的生物真實性

5、脈衝神經元因其本身具有時間的屬性,所以更適合處理有關時序的輸入資訊

6、脈衝神經元相對複雜,針對輸入,它們能提供複雜的非線性對映,從理論上分析,針對一個複雜的任務,一個小型的網路就能解決該任務。

7、神經元模型中的引數

τ m 表示的是膜時間常數,它與膜電壓的衰減有關, τ m
越大,膜電壓 V m ( t ) 衰減的速度越慢

8、從概念和計算的角度來看,與其他尖峰神經元模型相比,LIF模型相對簡單,所以採用最廣泛。同時LIF模型有個優點就是該模型很容易通過硬體實現,而且執行速度很快。

9、SRM(Spike Response Model)是LIF模型的一個推廣,它在神經元動力學中使用了核方法。

10、Hodgkin-Huxley(HH)模型是根據在烏賊身上的大量實驗結果所構建的。它是迄今為止最詳細和最複雜的神經元模型,然而,該神經元模型的需要很大的計算量,因此該模型不適用於大型網路的模擬。

11、Izhikevich(IM)模型可以通過在神經元動力學方程中設定不同的引數,使神經元具有不同的功能(例如連續激發一系列脈衝或只發射一個脈衝)

12、脈衝神經元本質上是為了處理和產生這種時空脈衝序列。

13、現在主流的認為神經元的編碼方式有兩種:1、速率編碼(rate code)。2、時間編碼(temporal code)
速率編碼:在運動細胞中,支配肌肉的力量完全取決於“脈衝發放率”,可以簡單理解成單位時間的脈衝發放數量。
時間編碼:是基於單個脈衝的精準時間,可以理解成他們時刻關注著外部的刺激,一般該種細胞存在在聽覺系統或聽覺迴路中。
神經元是使用速率編碼還是時間編碼是神經科學界爭論激烈的話題,甚至這些術語都沒有明確的定義。

14、當你使用速率編碼時,你就默認了資訊是包含在脈衝的發放頻率當中。當使用脈衝編碼,我們關注的物件就應該是脈衝發放率,而不是特定的脈衝序列。
脈衝的發放頻率有兩個解讀方法:1、統計。2、概率。

15、在大多數感覺系統中,隨著刺激強度的增加,發射率通常呈非線性增長[3]。

16、當採用速率編碼時,任何可能編碼在脈衝序列中精確資訊都會被忽略。即採用速率編碼就會自動丟失準確時間編碼的資訊。

17、頻率編碼的效率不高,但具有很強的抗噪聲能力。

18、有關“firing rate”的定義有幾種,主要是平平均的過程不同,一種定義為根據一段時間來取平均,另一種是幾次實驗的平均值。對於速率編碼方案中的大多數情況,它考慮編碼視窗內的尖峰計數。

19、許多研究發現,神經編碼的時間解析度是毫秒級的,這表明精準時間編碼在神經元編碼中存在,而且十分重要。

20、在視網膜[15,16],外側膝狀核(LGN)[17]和視皮層[14,18]以及許多其他感覺系統[19,20]中,觀察到神經元在毫秒尺度上精確地對刺激作出反應。這個發現有力的支援時間編碼的方式。

21、採用基於時間編碼,可以更高效的資訊進行表示,同時速度更快(例如神經元可以對特定位置的脈衝作出響應)

22、temporal code編碼方式細分有幾種:
1、latency code:延遲碼是一種特定形式的時間編碼,即編碼資訊在時間上相對於編碼視窗長度,這通常是與刺激的發生時間有關。
2、interspike intervals code :這種編碼是通過兩個脈衝之間的相對時間來表示編碼資訊。
3、phase of fireing code:難以描述,之後補充

23、相比速率編碼,採用時間編碼能攜帶更多的資訊,同時具有更強的生物真實性和計算效率。

24、基於精確時間編碼的學習演算法:spike-time-dependent plasticity(STDP),Tempotron rule,SpikeProp rule ,SPAN rule, Chronotron rule ,ReSuMe relu

25、STDP是今年來最常使用的學習演算法,它是基於Hebbs理論

26、Tempotron rule 演算法只能學習神經元是否產生脈衝,不能是神經元發放脈衝的精準時間,所以該演算法不能支援輸入和輸出峰值中使用的相同的編碼方案(因為脈衝輸出時間沒法確定),基於Tempotron的改進型演算法PSD,可以學習到神經元產生脈衝的精準時間。

27、SpikeProp rule可以訓練神經元在特定時間產生單個脈衝用於進行時空分類。該演算法是一種基於梯度的監督學習演算法。該演算法的主要缺點是它的輸出神經元只能發放一個脈衝,不能產生多個脈衝

28、為了解決SpikeProp輸出只能發放一個脈衝的問題,提出Chronotron rule、ReSuMe relu,他們的輸出可以是多個脈衝。

29、SPAN relu和Chronotron E-learning relu的權重更新都是基於誤差梯度。他們之間的誤差梯度有所不同。但這這些基於梯度(數學)所設計的學習演算法不具備生物真實性。