圖解機器學習讀書筆記-CH2
阿新 • • 發佈:2018-08-05
mathjax 表現 增長 模型訓練 向量 機器學習 維基 核函數 字符串 總結了如下表格:
模型種類 | 模型 | 圖示 | 補充 |
---|---|---|---|
線性模型 | 一般線性模型: , x為向量向量時: | 多維基函數構造: 1.乘法模型: 2.加法模型: 二者對比:乘法模型表現力豐富,但易引入維數災難;加法模型參數個線性增長,但表現力不足: | |
核模型 | 一般核模型:高斯核函數: | 一維高斯核模型: 二維高斯核模型: 帶寬為h, 均值為c的高斯核: | 1)參數個數不依賴x的維度,由訓練樣本數n決定,通過計算核均值抑制計算負荷;2)通過核映射可解決非向量樣本建模, 如可構建x為字符串,決策樹,圖表等的核函數 |
層級模型 | , 其中?(x;β)是含有參數向量β |
三層神經網絡:S型基函數: | 層級模型是基於參數向量θ=(α? T,β? T1,βT2,...,βTb)的非線性形式;核模型中高斯函數帶寬和均值固定;層級模型中耦合系數{αj}bj=1, 帶寬和均值都會被學習; 層級模型參數θ和fθ不是一一對應的(如b=2的人工神經網絡):因此模型訓練過程非常艱難 |
1. 線性模型
圖解機器學習讀書筆記-CH2