1. 程式人生 > >深度學習理論基礎7-初識神經網路

深度學習理論基礎7-初識神經網路

為了有種儀式感。我給出了神經網路的抽象表示。各層的名字圖上已經給的很清楚了。圖上沒有體現到的知識是,中間層也叫隱藏層。因為這個模型只有2層有權重,所以通常被叫做'2層網路'。

讓我們回到感知機。下面是感知機的數學公式表示:

還是原來的配方,還是原來的味道。接著給你感知機的影象表示,只是這次我們不要省略b,而是明確的把b新增到圖裡面,下圖:

想必有一撮讀者在此處懵逼了幾秒。不知道1是什麼意思。其實就是1作為一個輸入訊號,b作為權重。1*b還是b。

此時y的值是多少呢?如果 b + w 1 * x1 + w 2 *x 2 大於0時y為1,否則為0.

但是文字描述,是不能用作計算的。所以我們用一個函式來表示這一句描述:y = h(b + w 1 x 1 + w 2 x 2 ) 。

現在只需要把h()實現就可以了:

哦哦。真是一個簡單到爆炸的函式。不要著急。這只是開始(我是不是劇透了)。

雖然簡單,人家是有正式的並且很帥的名字的-----啟用函式!

給這個過程來張全家福:

那麼,問題來了。啟用函式是不是隻有這一個成員呢?當然不是啦。是我還會問嗎?有更加複雜的啟用函式,我們在下一節討論,大家先回家吃飯吧。下一節再見!