1.1 廣義線性模型

以下介紹的方法均是用於求解迴歸問題,其目標值預計是輸入值的一個線性組合.用數學語言表示:
假設y是預測值,則有:

在本節中,稱向量:為係數.
若要講通用的線性模型用於分類問題,可以參考Logistic迴歸

1.1.1 普通最小乘法

線性迴歸使用的係數來擬合一個線性模型,擬合的最終目標是要將線性值逼近預測值(Xw)和資料集中觀察到的值(y)兩者之間的平方和儘量降到最小,但是要解決以下形式問題:

線性迴歸的fit方法接收陣列X和Y作為輸入,講線性模型的係數W存在成員係數中.

>>> from sklearn import linear_model
>>> reg = linear_model.LinearRegression()
>>> reg.fit ([[0, 0], [1, 1], [2, 2]]
 
, [0, 1, 2])
LinearRegression(copy_X=True, fit_intercept=True, n_jobs=1, normalize=False)
>>> reg.coef_
array([ 0.5,  0.5])

未完待續