1. 程式人生 > >《統計學習方法(李航)》感知機學習筆記

《統計學習方法(李航)》感知機學習筆記

作者:jliang

https://blog.csdn.net/jliang3

1.重點歸納

1)感知機是二分類的線性分類模型

2)經驗風險函式/損失函式, M誤分類點

3)學習策略, M為誤分類點

4)感知機是誤分類驅動的,具體採用隨機梯度下降法求解。

5)感知機存在許多解,這些解依賴於初值的選擇,也依賴於迭代過程中誤分類點的選擇順序。

2.感知機模型

1)感知機是二分類的線性分類模型,其輸入為特徵向量,輸出為例項的類別類別(+1和-1值)。感知機旨在求出將訓練資料進行線性劃分的分離超平面,屬於判別模型。

2)感知機函式

3.感知機學習策略

1)經驗風險函式/損失函式

, M誤分類點

2)學習策略, M為誤分類點

4.感知機學習演算法

1)感知機是誤分類驅動的,具體採用隨機梯度下降法求解。

(1)任意選取一個超平面w0和b0,然後用梯度下降法不斷地極小化目標函式,極小化過程中不是一次使M中所有誤分類點的梯度下降,而是一次隨機選取一個誤分類點使其梯度下降。

(2)更新方法

損失函式導數:

引數更新:

2)學習過程

(1)選取初值w0和b0

(2)在訓練集中選取資料(xi,yi)

(3)如果,則

(4)轉至(2),直至訓練集中沒有誤分類點

3)感知機存在許多解,這些解依賴於初值的選擇,也依賴於迭代過程中誤分類點的選擇順序。

4)當訓練集線性不可分時,感知機演算法不收斂,迭代結果會發生震盪。