1. 程式人生 > >CNN學習筆記:卷積神經網絡

CNN學習筆記:卷積神經網絡

cnn eight 方法 ima 技術 通過 優勢 認識 大小

CNN學習筆記:卷積神經網絡

卷積神經網絡

  在圖像處理中,往往把圖像表示為像素的向量,比如一個1000*1000大小的圖像,可以表示為一個1000000的向量。如果隱藏層數目和輸入層一樣的話,那麽輸入層到隱藏層的參數數據為10的12次方,數據量太大,幾乎無法訓練。所以圖像處理第一步首先必須減少參數。

感受野

  降低參數數目的第一種方法叫做局部感知野。一般認為人對外界的認識是從局部到全局的,而圖像的空間聯系也是局部的像素聯系較為緊密,而距離較遠的像素相關性則較弱。因為,每個神經元其實並沒有必要對全局圖像進行感知,只需要對局部進行感知,然後在更高層將局部的信息總和起來就得到了全局信息。

  如下圖的3*3步長為1卷積操作為例,相鄰兩層中後層神經元在前層的感受野僅為3×3,但隨著卷積操作的疊加,第L+3層的神經元在第L層的感受野可擴增至7×7。

  技術分享圖片

  也就是說,小卷積核通過多層疊加可取得與大卷積核同等規模的感受野,此外還有兩個優勢:

  1、由於小卷積核需要多層疊加,加深了網絡深度進而增強了網絡容量。

  2、增加了網絡容量的同時減少了參數的個數。

CNN學習筆記:卷積神經網絡