支援向量機是建立在統計學習理論基礎之上的新一代機器學習演算法，支援向量機的優勢主要體現在解決線性不可分問題，它通過引入核函式，巧妙地解決了在高維空間中的內積運算，從而很好地解決了非線性分類問題。要構造出一個具有良好效能的SVM，核函式的選擇是關鍵也是最重要的一步．通常來講核函式的選擇包括兩部分工作：一是核函式型別的選擇，二是確定核函式型別後相關引數的選擇。如何根據具體的資料選擇恰當的核函式是SVM應用領域遇到的一個重大難題，也成為科研工作者所關注的焦點，但是目前還沒有具體的理論或方法來指導核函式的選取。下面我把我們常用的核函式列出來

1、經常使用的核函式

核函式的定義並不困難，根據泛函的有關理論，只要一種函式K

(xi,xj)滿足Mercer條件，它就對應某一變換空間的內積．對於判斷哪些函式是核函式到目前為止也取得了重要的突破，得到Mercer定理和以下常用的核函式型別：

(1)線性核函式

K(x,xi)=x⋅xi

(2)多項式核

K(x,xi)=((x⋅xi)+1)d

(3)徑向基核（RBF）

K(x,xi)=exp(−∥x−xi∥2σ2)

Gauss徑向基函式則是區域性性強的核函式，其外推能力隨著引數σ的增大而減弱。多項式形式的核函式具有良好的全域性性質。區域性性較差。

(4)傅立葉核

K(x,xi)=1−q22(1−2qcos(x−xi)+q2)

(5)樣條核

K(x,xi

)=B2n+1(x−xi)

(6)Sigmoid核函式

K(x,xi)=tanh(κ(x,xi)−δ)

採用Sigmoid函式作為核函式時，支援向量機實現的就是一種多層感知器神經網路，應用SVM方法，隱含層節點數目(它確定神經網路的結構)、隱含層節點對輸入節點的權值都是在設計(訓練)的過程中自動確定的。而且支援向量機的理論基礎決定了它最終求得的是全域性最優值而不是區域性最小值，也保證了它對於未知樣本的良好泛化能力而不會出現過學習現象。

2、核函式的選擇

在選取核函式解決實際問題時，通常採用的方法有：一是利用專家的先驗知識預先選定核函式；二是採用Cross-Validation方法，即在進行核函式選取時，分別試用不同的核函式，歸納誤差最小的核函式就是最好的核函式．如針對傅立葉核、RBF核，結合訊號處理問題中的函式迴歸問題，通過模擬實驗，對比分析了在相同資料條件下，採用傅立葉核的SVM要比採用RBF核的SVM誤差小很多。

在我的研究做實驗過程中，最常用的是Linear核與RBF核。
1）. Linear核：主要用於線性可分的情形。引數少，速度快，對於一般資料，分類效果已經很理想了。
2）. RBF核：主要用於線性不可分的情形。引數多，分類結果非常依賴於引數。有很多人是通過訓練資料的交叉驗證來尋找合適的引數，不過這個過程比較耗時。我個人的體會是：使用libsvm，預設引數，RBF核比Linear核效果稍差。通過進行大量引數的嘗試，一般能找到比linear核更好的效果。 但是應用最廣的應該就是RBF核了，無論是小樣本還是大樣本，高維還是低維等情況，RBF核函式均適用，它相比其他的函式有一下優點：

1）RBF核函式可以將一個樣本對映到一個更高維的空間，而且線性核函式是RBF的一個特例，也就是說如果考慮使用RBF，那麼就沒有必要考慮線性核函數了。

2）與多項式核函式相比，RBF需要確定的引數要少，核函式引數的多少直接影響函式的複雜程度。另外，當多項式的階數比較高時，核矩陣的元素值將趨於無窮大或無窮小，而RBF則在上，會減少數值的計算困難。

3）對於某些引數，RBF和sigmoid具有相似的效能。