1. 程式人生 > >李巨集毅機器學習課程6~~~深度學習入門

李巨集毅機器學習課程6~~~深度學習入門

深度學習歷史

這裡寫圖片描述

深度學習經典步驟

這裡寫圖片描述

這裡寫圖片描述

這裡寫圖片描述

神經網路的符合標記含義

這裡寫圖片描述

這裡寫圖片描述

Wij 代表的是從神經元j到神經元i,這樣寫的目的是便於表達,否則最後的表示式子就是Wij的轉置,細節見下面。

這裡寫圖片描述

每個神經元的偏執值組成一個向量b

這裡寫圖片描述

單個神經元的輸出結果

這裡寫圖片描述

這裡寫圖片描述
這裡寫圖片描述

所有神經元輸出的結果

這裡寫圖片描述

這裡寫圖片描述

深度學習示例數字識別

這裡寫圖片描述

這裡寫圖片描述

這裡寫圖片描述

將圖片reshape到一列(按行reshape或者按列reshape均可),類別可用0ne-hot來標記。

深度學習損失函式

這裡寫圖片描述

這裡寫圖片描述

這裡寫圖片描述

批量算損失,梯度下降法去更新引數,以便找到最優的目標函式。

深度學習梯度下降法

這裡寫圖片描述

這裡寫圖片描述

參考文獻