1. 程式人生 > >支援向量機總結

支援向量機總結

SVM一種二分類模型,是定義在特徵空間上的間隔最大的線性分類器。SVM的學習策略就是間隔最大化。線性可分支援向量機就是將輸入空間中的輸入對映為特徵空間中的特徵向量,它的學習是在特徵空間中進行的。

分類正確的置信度是通過點到分離超平面的距離度量的。

解決線性不可分的方法是對每個樣本點引入一個鬆弛變數。

用線性分類方法求解非線性分類問題分為兩步:首先使用一個變換將原空間中的資料對映到新空間,然後在新空間裡用線性分類學習方法從訓練資料中學習分類模型。

雖然可以將低維資料對映到高維使得線性不可分問題轉化為線性可分問題,但是這樣內積的計算量就太大了,所以引入核函式的目的就是將特徵從低維到高維進行轉換,而計算卻在低維,只是將效果表現在了高維而已。

分類直線叫classifier(分類器),最大間隙叫optimization(最優化),將資料對映到高維叫kernelling(核函式),面叫hyperplane(超平面)

通過將法向量歸一化即可將函式間隔變為幾何間隔。