深度學習指的是訓練神經網路

  所謂訓練就是和正確的結果對比，然後不斷更正有操作的偏差。就像且土豆絲，不斷調整自己下刀的厚度，既不能太細，也不能切成塊。

什麼是神經網路

一個簡單的神經網路。

  現在假設我們有一些關於房屋的資料集，這個資料集裡面包含了房屋的面積以及房價。我們希望從房屋的面積大小來預測該房屋的價格（面積->價格）。
  如下圖所示，橫軸代表房屋的面積大小（size of house），縱軸代表房屋的價格（price of house），紅叉代表房屋。很明顯可以看出，隨著面積的變大，房子的價格也隨著增長，近似線性關係。於是，我們可以使用一條一元一次方程，來近似的描述房屋的面積和價格關係。

藍色的線條表示我們的函式，因為房屋的面積不能是負數，所以，從座標原點開始，有一段直線的值為0。這個函式也叫做修正線性單元(Rectified linear unit，ReLU)。
  也就是說，我們輸入一個房屋的面積，經過一個處理的過程（比如函式計算），得出一個輸出的結果，房屋的價格。我們把這樣一個接受輸入並且能夠輸出一個對應的結果的單元，叫做神經單元。神經網路就是一系列神經單元的組合堆疊。現在，我們這個神經網路只有一個神經單元。

稍微大一點的神經網路

  事實上，從面積直接通過一個函式計算出房價，明顯是不合理的。影響房價的因素有很多,比如房間的個數(bedrooms)，當地的郵政編碼(Eip Code)，當地的經濟(wealth)。如下圖所示，左側藍色方框的內容，是可能影響房價的因素。

  圖中的每一個圓圈都表示一個神經單元。從房屋的面積和房間的個數，可以推出購買家庭的大小；從郵編號碼可以推出當地的步行化程度（描述地區繁榮度的一個指標），從郵編和當地經濟可以推出學校的教學水平。注意：以上的推出過程，都是指經過一個神經單元的計算，這也符合上文所說的“神經網路就是一系列神經單元的組合堆疊”。然後，還有另外的一個神經單元，這個單元可以對輸入的家庭大小(family size)、步行化程度(walkability)、學校的教學能力(school quality)等引數，輸出房屋的價格。
  那麼，有一個問題是，我們為什麼不直接通過輸入的四個引數(藍色方框)一步到位的計算出最終的房價呢？其實是可以的。之所以不這麼做，是因為我們希望每一個神經單元做盡量簡單的工作，通過這些不同的神經單元的組合堆疊，從而得出一個更加準確的預測結果，同時，也提高了每一個神經單元的可重用性。
  現在，我們有了一個稍微大一點的神經網路了。只需要輸入四個引數，就能預測出房價的多少，中間的過程全部是自動完成的。

一個基本的神經網路

  在上面的例子中，我們每一個神經節點都是以上一層節點若干個輸出作為輸入。實際上，我們在設計神經節點的時候，每一個神經節點的輸入都同時來自上一層節點所有的特徵。如下圖所示，第一層的三個節點，每一個節點都把前面的四個特徵作為輸入，第二層只有一個節點，這個節點也把第一層的所有節點的輸出作為輸入。

這樣，我們就構建了一個基本的神經網路。這個神經網路有若干層，每一層都是由若干個神經單元組成，每一層每一個神經單元的輸入，是上一層所有的神經單元的輸出。
  注意：以上介紹的是構建神經網路，預設所有的節點都是已經訓練完成（引數調整到最佳）。這裡還沒有加入訓練神經網路的過程，所以看起來，和簡單的函式計算沒有什麼區別。下面要做的，就是在這個神經網路進行實際應用之前，如何訓練它。