1. 程式人生 > >圖解機器學習讀書筆記-CH2

圖解機器學習讀書筆記-CH2

mathjax 表現 增長 模型訓練 向量 機器學習 維基 核函數 字符串

總結了如下表格:
模型種類模型圖示補充
線性模型 一般線性模型: 技術分享圖片, x為向量向量時: 技術分享圖片 技術分享圖片 多維基函數構造: 1.乘法模型: 技術分享圖片2.加法模型: 技術分享圖片二者對比:乘法模型表現力豐富,但易引入維數災難;加法模型參數個線性增長,但表現力不足:技術分享圖片
核模型 一般核模型:技術分享圖片高斯核函數:技術分享圖片 一維高斯核模型: 技術分享圖片二維高斯核模型: 技術分享圖片帶寬為h, 均值為c的高斯核: 技術分享圖片 1)參數個數不依賴x的維度,由訓練樣本數n決定,通過計算核均值抑制計算負荷;2)通過核映射可解決非向量樣本建模, 如可構建x為字符串,決策樹,圖表等的核函數
層級模型 技術分享圖片, 其中?(x;β)是含有參數向量β
的基函數; 常見的基函數: S型函數 技術分享圖片2. 高斯函數: 技術分享圖片
三層神經網絡:技術分享圖片S型基函數:技術分享圖片 層級模型是基於參數向量θ=(α? T,β? T1,βT2,...,βTb)的非線性形式;核模型中高斯函數帶寬和均值固定;層級模型中耦合系數{αj}bj=1, 帶寬和均值都會被學習; 層級模型參數θfθ不是一一對應的(如b=2的人工神經網絡):技術分享圖片因此模型訓練過程非常艱難

1. 線性模型

圖解機器學習讀書筆記-CH2