1. 程式人生 > >Neural Networks and Deep Learning 整理(二)

Neural Networks and Deep Learning 整理(二)

反向傳播(backpropagation)

        權重矩陣

        偏置向量

        帶權輸入z

        反向傳播的⽬標是計算代價函式 C 分別關於 w 和 b 的偏導數 ∂C/∂w 和 ∂C/∂b

       hadamard演算法

 

       四個基本方程的證明主要靠 大學的導數知識,編輯公式太麻煩。

 

       在觀察權重矩陣對最後代價的影響,以變化率的形式