一下來自知乎

按照我的理解，CNN的核心其實就是卷積核的作用，只要明白了這個問題，其余的就都是數學坑了（當然，相比較而言之後的數學坑更難）。

如果學過數字圖像處理，對於卷積核的作用應該不陌生，比如你做一個最簡單的方向濾波器，那就是一個二維卷積核，這個核其實就是一個模板，利用這個模板再通過卷積計算的定義就可以計算出一幅新的圖像，新的圖像會把這個卷積核所體現的特征突出顯示出來。比如這個卷積核可以偵測水平紋理，那卷積出來的圖就是原圖水平紋理的圖像。

現在假設要做一個圖像的分類問題，比如辨別一個圖像裏是否有一只貓，我們可以先判斷是否有貓的頭，貓的尾巴，貓的身子等等，如果這些特征都具備，那麽我就判定這應該是一只貓（如果用心的話你就會發現這就是CNN最後的分類層，這一部分是我們傳統的神經網絡的範疇）。關鍵在於這些特征是高級的語義特征，這種特征怎麽用卷積核提取呢？

原來的卷積核都是人工事先定義好的，是經過算法設計人員精心設計的，他們發現這樣或那樣的設計卷積核通過卷積運算可以突出一個什麽樣的特征，於是就高高興興的拿去卷積了。但是現在我們所需要的這種特征太高級了，而且隨任務的不同而不同，人工設計這樣的卷積核非常困難。

於是，利用機器學習的思想，我們可以讓他自己去學習出卷積核來！也就是學習出特征！

如前所述，判斷是否是一只貓，只有一個特征不夠，比如僅僅有貓頭是不足的，因此需要多個高級語義特征的組合，所以應該需要多個卷積核，這就是為什麽需要學習多個卷積核的原因。

還有一個問題，那就是為什麽CNN要設計這麽多層呢？首先，應該要明白，貓的頭是一個特征，但是對於充斥著像素點的圖像來說，用幾個卷積核直接判斷存在一個貓頭的還是太困難，怎麽辦？簡單，把貓頭也作為一個識別目標，比如貓頭應該具有更底層的一些語義特征，比如應該有貓的眼睛、貓的耳朵、貓的鼻子等等。這些特征有的還是太高級了，沒關系，繼續向下尋找低級特征，一直到最低級的像素點，這樣就構成了多層的神經網絡。

最好，CNN最不好理解的就要放大招了。雖然我們之前一直用一些我們人常見的語義特征做例子，但是實際上CNN會學習出貓頭、貓尾巴、貓身然後經判定這是貓嗎？顯然我們的CNN完全不知道什麽叫貓頭、貓尾巴，也就是說，CNN不知道什麽是貓頭貓尾巴，它學習到的只是一種抽象特征，甚至可能有些特征在現實世界並沒有對應的名詞，但是這些特征組合在一起計算機就會判定這是一只貓！關於這一點，確實有些難以理解，比如一個人判斷貓是看看有沒有貓頭、貓身子、貓尾巴，但是另一個選取的特征就是有沒有貓的毛，貓的爪子，還有的人更加奇怪，他會去通過這張圖像裏是不是有老鼠去判斷，而我們的CNN，則是用它自己學習到的特征去判斷。

———————————分割線——————————————————————

最近又看了一些資料，在此糾正和闡明一些問題。

目前CNN的可視化是一個很火的方向了，有些論文中已經提到了中間的卷積層特征其實也是具有現實的語義意義的，但是只是不那麽清晰。

CNN稱之為深度學習，要義就在這個深字上，對於CNN而言，這個深其實就是意味著層層的特征表示。比如淺層的特征，例如點、線、面之類的簡單幾何形狀，都是在底層訓練出來的，對於這些底層的特征繼續進行組合表示，就是後面的若幹層的任務。最後把從低級特征組合而來的高級特征在進一步變成語義特征，就可以使用全連接層進行分類了。也就是說，最後一次分類並不一定要用神經網絡，如果已經拿到了足夠好的特征信息，使用其余的分類器也未嘗不可。

這就是為什麽CNN可以fine-tune的原因，例如你要完成一個分類貓和狗的任務，你需要從頭訓練一個CNN網絡嗎？假設你的貓狗圖片樣本量並不是很大，這並不是一個好主意。好的辦法是，拿一個經過大型圖像數據集，你如ImageNet，訓練過的大規模CNN（比如VGG NET）直接載入訓練，這個過程稱之為fine-tuning。因為這個CNN底層已經訓練到了豐富的細節信息，你所需要訓練的其實是上層對這些特征的組合信息，以及最後全連接層的分類信息，所以完全不需要從頭再來。這也證明了CNN確實可以有遷移學習的能力。

———————————分割線——————————————————————

之前有一點沒有說，今天沒啥事補充一下，也算是做個記錄。

CNN的部件其實大致分為三個，卷積層、池化層、全連接層，這也是LeNet-5的經典結構，之後大部分CNN網絡其實都是在這三個基本部件上做各種組合和改進。卷積層之前已經介紹過了，全連接層就是連在最後的分類器，是一個普通的bp網絡，實際上如果訓練得到的特征足夠好，這裏也可以選擇其他的分類器，比如SVM等。

那麽池化層是幹什麽的呢？池化，英文是pooling，字面上看挺難懂，但其實這可能是CNN裏最簡單的一步了。我們可以不按字面理解，把它理解成下采樣（subsampling）。池化分為最大值池化和平均值池化，和卷積差不多，也是取一小塊區域，比如一個5*5的方塊，如果是最大值池化，那就選這25個像素點最大的那個輸出，如果是平均值池化，就把25個像素點取平均輸出。

這樣做有什麽好處呢？1、應該很明顯可以看出，圖像經過了下采樣尺寸縮小了，按上面的例子，原來5*5的一個區域，現在只要一個值就表示出來了！2、增強了旋轉不變性，池化操作可以看做是一種強制性的模糊策略，舉個不恰當的例子，假設一個貓的圖片，貓的耳朵應該處於左上5*5的一個小區域內（實際上貓的耳朵不可能這麽小），無論這個耳朵如何旋轉，經過池化之後結果都是近似的，因為就是這一塊取平均和取最大對旋轉並不care。

當然和之前的卷積一樣，池化也是層層遞進的，底層的池化是在模糊底層特征，如線條等，高層的池化模糊了高級語義特征，如貓耳朵。所以，一般的CNN架構都是三明治一樣，卷積池化交替出現，保證提取特征的同時也強制模糊增加特征的旋轉不變性。

更新一下比較advantage的東西。

現代CNN相比於之前的遠古CNN發生了很大變化，雖然這裏的遠古CNN大約在2014年論文中出現，距今也只有不到4年時間。這裏也可以看出深度學習的發展日新月異，一日千裏的可怕速度。

理解了本身CNN的基礎含義，再來看看這些先進的CNN，是很有必要的，不要指望只靠卷積層池化層就可以得到好的效果，後來加入CNN的trick不計其數，而且也都是裏程碑式的成果。下面主要以圖像分類的CNN來闡述。

暴力加深流派：以AlexNet和VGGNet為首的模型，這一派觀點很直接，就是不斷交替使用卷積層池化層，暴力增加網絡層數，最後接一下全連接層分類。這類模型在CNN早期是主流，特點是參數量大，尤其是後面的全連接層，幾乎占了一般參數量。而且相比於後續的模型，效果也較差。因此這類模型後續慢慢銷聲匿跡了。

Inception流派：谷歌流派，這一派最早起源於NIN，稱之為網絡中的網絡，後被谷歌發展成Inception模型（這個單詞真的不好翻譯。。。）。這個模型的特點是增加模型的寬度，使得模型不僅僅越長越高，還越長越胖。也就是說每一層不再用單一的卷積核卷積，而是用多個尺度的卷積核試試。顯然，如果你熟悉CNN，就不難發現，這樣做會使每一層的feature map數量猛增，因為一種尺寸的卷積核就能卷出一系列的feature map，何況多個！這裏google使用了1*1的卷積核專門用來降channel。谷歌的特點是一個模型不玩到爛絕不算完，所以又發展出了Inception v2、Inception v3、Inception v4等等。

殘差流派：2015年ResNet橫空出世，開創了殘差網絡。使用殘差直連邊跨層連接，居然得到了意想不到的好效果。最重要的是，這一改進幾乎徹底突破了層數的瓶頸，1000層的resnet不是夢！之後，最新的DenseNet喪心病狂地在各個層中間都引入了殘差連接。目前大部分模型都在嘗試引入殘差連接。

註意，到此為止，大部分模型已經丟棄了全連接層，改為全局平均池化。大大降低了參數量。

混合流派：這一派不說了，就是看到哪幾類模型效果好，就把這類技術混雜起來。典型的就是Xception和ResIception，將Inception和殘差網絡結合起來了。

BatchNromalization：不得不提這個批量標準化技術，在此技術出現之前，CNN收斂很慢，此技術出現後，大大加快了模型收斂速度，還兼具一定的防過擬合效果。當然，這個技術不僅僅限於CNN。

作者：張旭
鏈接：https://www.zhihu.com/question/39022858/answer/120211609
來源：知乎
著作權歸作者所有。商業轉載請聯系作者獲得授權，非商業轉載請註明出處。

---------------------------------------------------不華麗的分割線--------------------------------------------------

接下來我們來進入貓狗識別項目

Dogs-Cats：https://github.com/Machine-Learning-For-Research/Dogs-Cats

貓狗大戰——圖像識別：https://github.com/huyingxi/cats_vs_dogs

Dogs vs. Cats Redux: Kernels Edition：https://www.kaggle.com/c/dogs-vs-cats-redux-kernels-edition/data

百度西交大寵物狗識別比賽baseline：https://github.com/LightR0/Dog_Classification

手把手教你如何在Kaggle貓狗大戰沖到Top2%：https://ypw.io/dogs-vs-cats-2/#more

楊培文 (Yang Peiwen)github：https://github.com/ypwhs

貓狗大戰：https://github.com/ypwhs/dogs_vs_cats

kaggle：https://www.kaggle.com/c/dogs-vs-cats-redux-kernels-edition#evaluation

Jupyter Notebook了解學習：https://www.jianshu.com/p/86117613b7a6

好多東西，需要花些時間整理再總結

卷積神經網絡入門（1） 識別貓狗