機器學習(十一) 支持向量機 SVM（上）
阿新 • • 發佈：2018-09-02
gin 模型 結構 線性可分 adding 統計學習 lis 可能 方法
一、什麽是支撐向量機SVM （Support Vector Machine）
SVM(Support Vector Machine)指的是支持向量機，是常見的一種判別方法。在機器學習領域，是一個有監督的學習模型，通常用來進行模式識別、分類以及回歸分析。
Vapnik等人在多年研究統計學習理論基礎上對線性分類器提出了另一種設計最佳準則。其原理也從線性可分說起，然後擴展到線性不可分的情況。甚至擴展到使用非線性函數中去，這種分類器被稱為支持向量機（Support Vector Machine，簡稱SVM）。支持向量機的提出有很深的理論背景。 支持向量機方法是在後來提出的一種新方法。 SVM的主要思想可以概括為兩點：- 它是針對線性可分情況進行分析，對於線性不可分的情況，通過使用非線性映射算法將低維輸入空間線性不可分的樣本轉化為高維特征空間使其線性可分，從而使得高維特征空間采用線性算法對樣本的非線性特征進行線性分析成為可能。
- 它基於結構風險最小化理論之上在特征空間中構建最優超平面，使得學習器得到全局最優化，並且在整個樣本空間的期望以某個概率滿足一定上界。
二、SVM背後的最優化問題
三、Soft Margin SVM 和 SVM 正則化
四、scikit-learn中的SVM
五、SVM中使用多項式特征和核函數
機器學習(十一) 支持向量機 SVM（上）