1. 程式人生 > >Lasso和Elastic net的區別

Lasso和Elastic net的區別

Lasso模型是稀疏當中最普通最常見的,而Elastic net感覺就是在Lasso 模型上增加了一個L2範的懲罰項,但是兩者還是有很大區別的。

通常Lasso用來:1減少迴歸模型中的預測子的數量  2 篩選重要的預測子   3比普通的最小二乘方法的預測誤差更好

而Elastic net可以視為Lasso問題的變形,看下二者的公式:
                            (1)

     (2)

      (3)

lasso的定義如式(1),elastic net定義如(2)(3),後者的約束使得更多係數趨近於零,當alpha等於1時,elastic net就會變成lasso