《統計學習方法(李航)》感知機學習筆記
阿新 • • 發佈:2018-12-25
作者:jliang
1.重點歸納
1)感知機是二分類的線性分類模型
2)經驗風險函式/損失函式, M為誤分類點
3)學習策略, M為誤分類點
4)感知機是誤分類驅動的,具體採用隨機梯度下降法求解。
5)感知機存在許多解,這些解依賴於初值的選擇,也依賴於迭代過程中誤分類點的選擇順序。
2.感知機模型
1)感知機是二分類的線性分類模型,其輸入為特徵向量,輸出為例項的類別類別(+1和-1值)。感知機旨在求出將訓練資料進行線性劃分的分離超平面,屬於判別模型。
2)感知機函式
3.感知機學習策略
1)經驗風險函式/損失函式
2)學習策略, M為誤分類點
4.感知機學習演算法
1)感知機是誤分類驅動的,具體採用隨機梯度下降法求解。
(1)任意選取一個超平面w0和b0,然後用梯度下降法不斷地極小化目標函式,極小化過程中不是一次使M中所有誤分類點的梯度下降,而是一次隨機選取一個誤分類點使其梯度下降。
(2)更新方法
損失函式導數:
引數更新:
2)學習過程
(1)選取初值w0和b0
(2)在訓練集中選取資料(xi,yi)
(3)如果,則
(4)轉至(2),直至訓練集中沒有誤分類點
3)感知機存在許多解,這些解依賴於初值的選擇,也依賴於迭代過程中誤分類點的選擇順序。
4)當訓練集線性不可分時,感知機演算法不收斂,迭代結果會發生震盪。