《李航:統計學習方法》--- 感知機演算法原理與實現
阿新 • • 發佈:2019-02-03
感知機模型
感知機是一個二類分類的線性分類模型。所謂二類分類就是它只能將例項分為正類和負類兩個類別。那麼為什麼是線性分類模型呢,我的理解是感知機學習旨在求出可以將資料進行劃分的分離超平面,而分離超平面的方程
圈圈表示正類,而叉叉表示負類。圈圈與叉叉之間的直線即上文所說的分離超平面(注意分離超平面並不是唯一的!)它將所有的樣本劃分為兩部分。位於分離超平面上方的為正類,記為+1,位於分離超平面下方的為負類,記為-1。也就是說,假設給一個樣本的特徵向量x,如果 +b<0
感知機學習策略
給定一個線性可分的資料集
為了確定感知機模型的引數
其次對於誤分類的資料
感知機學習的策略是在假設空間中選取使損失函式最小的模型引數
感知機學習演算法
感知機學習演算法是誤分類驅動的,具體採用隨機梯度下降法。首先,任意選取一個超平面