1. 程式人生 > >python實現線性回歸(一)原理

python實現線性回歸(一)原理

函數 乘法 學習 偏移量 python實現 機器 線性 計算 梯度

線性回歸是機器學習的基礎,用處非常廣泛,在日常工作中有很大作用。

1.什麽是線性回歸

技術分享圖片

通過多次取點,找出符合函數的曲線,那麽就可以完成一維線性回歸。

2.數學表示

技術分享圖片

技術分享圖片是截距值,為偏移量。

因為單純計算多項式需要很大空間,所以就需要將式子變形,轉化為矩陣乘積形式。

技術分享圖片

3.最小二乘法模型

首先定義一個函數L來表示損失函數(通過已有的X,Y數據來計算)

技術分享圖片技術分享圖片

4.梯度下降

直接運算缺點:運算性能不足。

所以選擇梯度下降法。

技術分享圖片

python實現線性回歸(一)原理