1. 程式人生 > >吳恩達機器學習筆記9-多變量梯度下降

吳恩達機器學習筆記9-多變量梯度下降

歸類 size 線性 代碼示例 jpg 選擇 單變量 線性回歸 spa

與單變量線性回歸類似,在多變量線性回歸中,我們也構建一個代價函數,則這個代價
函數是所有建模誤差的平方和,即:

技術分享圖片
其中:???(??) = ?????? = ??0 + ??1??1 + ??2??2+. . . +???????? ,
我們的目標和單變量線性回歸問題中一樣,是要找出使得代價函數最小的一系列參數。
多變量線性回歸的批量梯度下降算法為:

技術分享圖片


即:

技術分享圖片

求導數後得到:

技術分享圖片

當?? >= 1時,
技術分享圖片
我們開始隨機選擇一系列的參數值,計算所有的預測結果後,再給所有的參數一個新的
值,如此循環直到收斂。
代碼示例:
技術分享圖片

吳恩達機器學習筆記9-多變量梯度下降