1. 程式人生 > >機器學習儲備(4):最常用的求導公式

機器學習儲備(4):最常用的求導公式

求導公式在機器學習的梯度下降中經常使用,因為梯度就意味著要求導,所以將使用頻率最高的幾個公式羅列在下面,方便查閱。

其中第三個是第二個的特列

求導比較重要的一條性質便是鏈式求導法則,它其實並不難理解,因為求導數意味著由外及內的,一層一層地將變化傳遞到最裡頭。

例如,要求解 

這個由一個例項和一個特徵項組成的特殊的最小二乘項的導數,要令,即先對 的平方求導數,然後再對求導數,結果應該為-