1. 程式人生 > >學習筆記——吳恩達-機器學習課程 1.2 什麼是神經網路

學習筆記——吳恩達-機器學習課程 1.2 什麼是神經網路

1.2 什麼是神經網路

        “深度學習”指的是訓練神經網路,有的時候 規模很大,那麼神經網路是什麼呢?我們從一個房價預測的例子開始,假設有一個六間房屋的資料集已知房屋的面積,單位是平房英尺或者平方米,已知房屋價格,想要找到一個函式,根據房屋面積,預測房價的函式,如果你懂線性迴歸,你可能會得到這樣一條直線,但是,你可能也知道,價格永遠不能為負,因此,直線不太合適,它最後會讓價格為負數,我們會在這裡彎曲一點,讓它結束於0,這條粗的藍線就是你要的函式,根據房屋面積預測價格,你也許可以把這個房屋加個擬合函式 看成是一個非常簡單的神經網路,這 幾乎是最簡單的神經網路了,讓我畫在這裡,我們把房屋的面積作為神經網路的輸入,稱之為x,通過這個節點 這個小圈圈,最後輸出了價格,用y來表示,這個小圓圈就是一個獨立的神經元,你的網路實現了左邊這個函式的功能,這個神經元所做的,就是輸入面積,完成線性運算,取不小於0的值,最後得到的輸出預測價格,神經網路的文獻中,經常看到這個函式,這個函式一開始是0,然後就是一條直線,這個函式被稱作ReLU函式,全稱是“修正線性單元”即ReLU,",修正"指的是取不小於0的值,這就是這個函式長成這樣的原因,不理解ReLU函式的話不用擔心,這門課的後面還會看到它的,這是一個單神經元網路。

規模很小的神經網路,大一點的神經網路,是把單個神經元堆疊起來形成的,你可以把這些神經元 想象成單獨的樂高積木,你通過搭積木來構建一個更大的神經網路,來舉個例子,不僅僅用房屋的面積來預測價格,現在你還用一些房屋的其它特徵,知道了一些別的資訊,比如臥室的數量,這樣記下來,你可能想到,有一個很重要的因素會影響房屋價格,就是“家庭人數”,這個房屋能住下一個三口之家,四口之家,五口之家,這個性質和麵積大小相關,還有臥室的數量,能否滿足住戶的家庭人數需求,你可能知道郵編,在一些國家,或許能作為一個特徵,說明了步行化程度,這附近是不是高度步行化?你是否能步行去雜貨店 或者是學校,是否需要開車?有些人喜歡高度步行化的地方,另外根據郵政編碼還有富裕程度,在美國是這樣的,其它國家也可能一樣,郵編體現了附近學校的質量,我畫的每一個小圓圈都可能是一個ReLU,即“修正線性單元”,或者其它的不那麼線性的函式,基於房屋面積和臥室數量,你可以估算家庭人口,基於郵編 可以評估步行化程度,基於郵編也可以評估學校質量,最後,你可能會想,人們願意在房屋上話費多少錢,和他們關注什麼 息息相關,在這個例子,家庭人口、步行化程度以及學校質量,都能幫助你預測房屋的價格,在這個例子中,x 是所有的這四個輸入,y是預測的價格,把這些獨立的神經元疊加起來,上一張幻燈片裡面,簡單的預測器(神經元),現在有了稍微大一點的神經網路,神經網路的一部分神奇之處在於,當你實現它之後,你要做的只是輸入x,就能輸出y,不管訓練集有多大,所有中間過程它都會自己完成,那麼你實際上做的就是,這有四個輸入的神經網路,輸入的特徵,可能是臥室的數量,郵政編碼,和周邊的富裕程度,已知這些輸入的特徵,神經網路的工作就是預測對應的價格,同時,也注意到這些圈圈,在一個神經網路中他們被叫做“隱藏單元”。


         每個的輸入都同時來自四個特徵,比如說 我們不會具體說 ,第一個節點表示家庭人口,或者說家庭人口僅取決於特徵x1和x2,我們會說:神經網路 你自己決定這個節點是什麼,我們只給你四個輸入特徵,隨便你怎麼計算,因此我們說這一層 ,輸入層在中間的這一層,在神經網路中 連線數是很高的,因為輸入的每一個特徵,都連結到了中間的每個圈圈,值得注意的是,神經網路只要你餵給它足夠多的資料,關於x和y 的資料,給到足夠的x,y訓練樣本,神經網路非常擅長於計算從x到y 的精準對映函式,這就是基本的神經網路,你可能發現自己的神經網路在監督學習的環境下是如此有效和強大,也就是說 你只要嘗試輸入一個x,即可對映成y,像我們在剛才房價預測的例子中看到的,在下一個視訊中,你會看到更多監督學習的例子,有些例子會讓你覺得你的神經網路對你的應用場合非常有幫助。


       學習總結:神經網路是由神經元構成,每個神經元可以理解成一個簡單的函式(一個線性模型),每個輸入引數都有對應的輸出結果與之相對應,隨著輸入引數的增多,神經元隨之增多,各個神經元之間相互連線相互,相互影響,構成神經網路,神經網路分為輸入層、隱藏層和輸出層。在監督學習環境下,給到的資料越多,那麼訓練的效果越精確。