1. 程式人生 > >最大間隔轉為二次凸優化問題daidingdaiding

最大間隔轉為二次凸優化問題daidingdaiding

計算最大間隔:兩者等價,。    

最小化

SVM的目標函式:上述的函式,很明顯是線性約束的二次規劃問題(即凸優化問題)。因目標函式是凸函式,約束是線性的,而且是二次形式。這是典型的二次規劃問題。可知,只要轉為凸優化問題,即該問題可以解決了。

(1)、最初的想法:對於無約束條件的最優化問題,即LoR中採用的梯度下降演算法即可求解全域性最優解。有約束的最優化問題,採用梯度下降?不好弄,因為會跑出約束之外。

T1、可以直接使用QP軟體求解w和b。對於不復雜的情況,通過計算軟體,其實就可以解決了。對於複雜情況,需要轉換為對偶問題。

T2、另外一種方法求解對偶問題。