常用神經網路模型及其應用評述
阿新 • • 發佈：2019-01-23
- 在生物神經細胞中存在一種特徵敏感細胞，這種細胞只對外界訊號刺激的某一特徵敏感，並且這種特徵是通過自學習形成的。在人腦的腦皮層中，對於外界訊號刺激的感知和處理是分割槽進行的，有學者認為，腦皮層通過鄰近神經細胞的相互競爭學習，自適應的發展稱為對不同性質的訊號敏感的區域。根據這一特徵現象，芬蘭學者Kohonen提出了自組織特徵對映神經網路模型。他認為一個神經網路在接受外界輸入模式時，會自適應的對輸入訊號的特徵進行學習，進而自組織成不同的區域，並且在各個區域對輸入模式具有不同的響應特徵。在輸出空間中，這些神經元將形成一張對映圖，對映圖中功能相同的神經元靠的比較近，功能不同的神經元分的比較開，自組織特徵對映網路也是因此得名。
- 自組織對映過程是通過競爭學習完成的。所謂競爭學習是指同一層神經元之間相互競爭，競爭勝利的神經元修改與其連線的連線權值的過程。競爭學習是一種無監督學習方法，在學習過程中，只需要向網路提供一些學習樣本，而無需提供理想的目標輸出，網路根據輸入樣本的特性進行自組織對映，從而對樣本進行自動排序和分類。
- 競爭學習網路的結構：假設網路輸入為R維，輸出為S個，典型的競爭學習網路由隱層和競爭層組成，與徑向基函式網路的神經網路模型相比，不同的就是競爭傳遞函式的輸入是輸入向量p與神經元權值向量w之間的距離取負以後和閾值向量b的和，即ni=-||wi-p||+bi。網路的輸出由競爭層各神經元的輸出組成，除了在競爭中獲勝的神經元以外，其餘的神經元的輸出都是0，競爭傳遞函式輸入向量中最大元素對應的神經元是競爭的獲勝者，其輸出固定是1。
- 競爭學習網路的訓練：競爭學習網路依據Kohonen學習規則和閾值學習規則進行訓練，競爭網路每進行一步學習，權值向量與當前輸入向量最為接近的神經元將在競爭中獲勝，網路依據Kohonen準則對這個神經元的權值進行調整。假設競爭層中第i個神經元獲勝，其權值向量Wi將修改為：Wi(k)=Wi(k-1)-alpha*(p(k)-Wi(k-1))。按照這一規則，修改後的神經元權值向量將更加接近當前的輸入。經過這樣調整以後，當下一此網路輸入類似的向量時，這一神經元就很有可能在競爭中獲勝，如果輸入向量與該神經元的權值向量相差很大，則該神經元極有可能落敗。隨著訓練的進行，網路中的每一個節點將代表一類近似的向量，當接受某一類向量的輸入時，對應類別的神經元將在競爭中獲勝，從而網路就具備了分類功能。
- 自組織特徵對映網路：
自組織特徵對映網路SOFM的構造時基於人類大腦皮質層的模仿。在人腦的腦皮層中，對外界訊號刺激的感知和處理是分割槽進行的，因此自組織特徵對映網路不僅僅要對不同的訊號產生不同的響應，即與競爭學習網路一樣具有分類功能。而且還要實現功能相同的神經元在空間分佈上的聚集。因此自組織特徵對映網路在訓練時除了要對獲勝的神經元的權值進行調整之外，還要對獲勝神經元鄰域內所有的神經元進行權值修正，從而使得相近的神經元具有相同的功能。自組織特徵對映網路的結構域競爭學習網路的結構完全相同，只是學習演算法有所區別而已。
穩定時，每一鄰域的所有節點對某種輸入具有類似的輸出，並且這聚類的概率分佈與輸入模式的概率分佈相接近。 - 學習向量量化網路：學習向量量化網路由一個競爭層和一個線性層組成，競爭層的作用仍然是分類，但是競爭層首先將輸入向量劃分為比較精細的子類別，然後線上性層將競爭層的分類結果進行合併，從而形成符合使用者定義的目標分類模式，因此線性層的神經元個數肯定比競爭層的神經元的個數要少。
- 學習向量量化網路的訓練：學習向量量化網路在建立的時候，競爭層和線性層之間的連線權重矩陣就已經確定了。如果競爭層的某一神經元對應的向量子類別屬於線性層的某個神經元所對應的類別，則這兩個神經元之間的連線權值＝1，否則2者之間的連線權值為0，這樣的權值矩陣就實現了子類別到目標類別的合併。根據這一原則，競爭層和線性層之間的連線權重矩陣的每一列除了一個元素為1之外，其餘元素都是0。1在該列中的位置表示了競爭層所確定的子類別屬於哪一種目標類別（列中的每一個位置分別表示一種目標類別）。在建立網路時，每一類資料佔資料總數的百分比是已知的，這個比例恰恰就是競爭層神經元歸併到線性層各個輸出時所依據的比例。由於競爭層和線性層之間的連線權重矩陣是事先確定的，所以在網路訓練的時候只需要調整競爭層的權值矩陣。