1. 程式人生 > >支持向量機核函數

支持向量機核函數

技術分享 方差 影響 是我 沒有 像素 如果 不能 產生

當我們要去判斷一個非線性的區域,我們會選擇用非線性

函數來擬合。

技術分享

問題是 能不能選擇別的特征變量 或者有沒有比這些高階項更好的特征變量

因為 我們並不知道 這些高階項是不是我們真正需要的 我們之前談到 計算機

視覺的時候 提到過這時的輸入是一個有很多像素的圖像 我們看到如果用高階項

作為特征變量 運算量將是非常大的 因為 有太多的高階項需要被計算

構建核函數(這裏用高斯核函數)

技術分享

k(x,l(i))是高斯核函數的簡寫。

用高斯核函數來計算兩者的相似度:

技術分享

技術分享通過計算我們能得到三個新的特征變量f1,f2,f3。

例子我們選一個l(1),得到他的高斯函數

技術分享

下圖為他的三維坐標圖,在(3,5)這點高斯函數的值為1.

技術分享

二維圖:

技術分享

σ取值對核函數的影響:

技術分享

我們發現σ越小梯度越大,反之梯度越小。

通過轉換變量我們可以得到如下的預測函數:

技術分享

從哪裏去得到l點

直接用訓練樣本作為標識點

技術分享

計算相應的新的特征值:

技術分享

相應的預測函數和代價函數:

技術分享

θTMθ為運算技巧,對結果不會產生較大影響,會提高運算速度。

核函數的偏差和方差:

技術分享

支持向量機核函數