1. 程式人生 > >機器學習8:深度學習——全連線

機器學習8:深度學習——全連線

深度模型最直觀的解釋就是多層網路,最簡單的深度模型是全連線。深度網路的每個全連線層其實質就是一個邏輯迴歸模型,每層包括線性函式與啟用函式。如圖所示:

——全連線細節展示,每一層都是\delta(wx+b),\delta表示sigmod函式。

——全連線模型

通過多層組合,可以得到如下的解析模型:

對於模型中的隱藏層,其實質工作就是Feature Extraction,因此,隱藏層出現了卷積、小波等。以影象為例,卷積層可以對影象進行不同程度的濾波,使得機器能看到諸如紋理等特徵,全連線層再進行特徵的變換與組合,最終達到自動提取特徵與學習的過程。卷積的濾波特性也行就是卷積神經網路在影象上表現好的原因。