ng機器學習視頻筆記（六）

——神經網絡基礎

（轉載請附上本文鏈接——linhxx）

一、概述

神經網絡，可以理解為輸入的內容，經過一系列的內部的處理，得到輸出的假設函數。簡單的神經網絡如下圖：

可以看出，三個輸入，經過中間的變化，得到輸出。中間橙色的圈，稱為神經元。神經元可以分層，下圖是三層神經網絡模型：

其中，第一層藍色的圈，叫做輸入層；中間一層橙色的圈叫做隱藏層；右邊的橙色圈叫做輸出層。神經網絡有一個輸入層和一個輸出層，隱藏層可以有多層。神經元的連接方式，稱為神經網絡的架構。

二、基本公式

上圖的三層神經網絡，a_i

用z_i^(j)表示對應的a_i^(j)的式子中的g函數內部的式子，可以看出，神經元實質上就是輸入的變量經過若幹個線性變換，得到輸出。

上圖的xi，都省略了x0，x0一直都是1。另外，g(z)即logistic回歸中的g(z)函數，即g(z)=1/(1+e^-θTx)

三、具體例子

現要使用神經網絡實現與、或、非、異或的邏輯運算。

1、與

假設有兩個特征值x1、x2，他們的取值範圍是0或1，y=x1&&x2，由g(z)的公式，可以大致推導出，z=4時y約等於1，z=-4時y約等於0。則可以假設h(x)=g(z)=g(-30+20x1+20x2)（其中x0=1），神經網絡如下圖所示：

則此時即表示實現了一個具有“與”功能的神經元。

2、或

類似與，或可以用如下假設方式：

3、非

非的表示方式如下：

4、非異或

非異或（XNOR），即異或的結果再進行非操作。此時，用到了三層的神經網絡，中間一層是隱藏層，用於計算異或，並把結果傳到第三層進行處理後輸出。

根據異或的公式，可以知道x1 XOR x2，則x1或x2中1個是1的時候結果是1，否則是0，則XNOR則是x1和x2都是1，或者x1和x2都不是1的情況。

因此，第二層，則計算了x1和x2都是1，或者x1和x2都不是1的情況。分別是紅色的圈和藍色的圈的表示。

第三層進行或運算，接收第二層的結果。

四、多變量情況

多變量情況，類似上面的內容，下面是例如要區分一個圖片是轎車、人、摩托車、卡車的簡易神經網絡（沒有具體過程，就是粗略模型）。

實際上，就是將輸入的圖片的像素點，經過若幹隱藏層的處理後，進行輸出。

——written by linhxx

更多最新文章，歡迎關註微信公眾號“決勝機器學習”，或掃描右邊二維碼。

ng機器學習視頻筆記（六） ——神經網絡基礎