1. 程式人生 > >神經網路學習筆記-支援向量機(Support Vector Machine,SVM )

神經網路學習筆記-支援向量機(Support Vector Machine,SVM )

基於誤差反向傳播演算法的多層感知器
徑向基函式網路
支援向量機(SupportVector Machine , SVM )
都是前饋神經網路 ,都用於解決模式分類與非線性對映問題 。
線性可分模式分類:支援向量機的主要思想是建立一個最優決策超平面 ,
使得該平面兩側距平面最近的兩類樣本之間的距離最大化 ,從而對分類問題提供良好的泛化能力 。
非線性可分模式分類問題 , 根據 Cover 定理 : 將複雜的模式分類問題非線性地投射到高維特徵空間可能是線性可分的 ,因此只要變換是非線性的且特徵空間的維數足夠高 , 則原始模式空間能變換為一個新的高維特徵空間 , 使得在特徵空間中模式以較高的概率為線性可分的 。
支援向量機基於統計學習理論的原理性方法 , 因此需要較深的數學基礎 。
支援向量機建立的分類超平面能夠在保證分類精度的同時 , 使超平面兩側的空白區域最大化 , 從而實現對線性可分問題的最優分類 。
最優超平面

W0TX+b0=0