每月學習數理統計--《統計學習方法—李航》(1)
現在這本書已經看完70%,在看完後我將會將每一章的內容按照自己的理解並結合其他書籍包括<<統計機器學習導論>>[1] ,<<機器學習>>[2],<<大數據分析>>[3]這三本書總結經典的幾大算法原理與代碼實現。下面是預計的寫作思路:
一、分類學習
1.SVM
2.決策樹
3.Logistic 回歸
4.貝葉斯判別法
5.K近鄰法
6.最小二乘法
7.最大熵模型
8.高斯混合模型
二、集成學習
1.Random Forest
2.GBDT
3.AdaBoost
三、結構化分類
1.馬爾科夫理論
2.條件隨機場
四、從二分類到多分類
1.OVA
2.OVO
五、重要的數學算法
1.極大似然法
2.梯度下降法
3.牛頓法
4.拉格朗日對偶性
5.SMO解法
6.損失最小化的觀點
我會盡可能利用MATLAB或者Python實現所有內容,如果有不能實現的,還希望大家能夠多多幫助我這個剛剛入門的小白~
每月學習數理統計--《統計學習方法—李航》(1)
相關推薦
每月學習數理統計--《統計學習方法—李航》(1)
分類 bsp 小白 總結 統計學 乘法 入門 回歸 ova 現在這本書已經看完70%,在看完後我將會將每一章的內容按照自己的理解並結合其他書籍包括<<統計機器學習導論>>[1] ,<<機器學習>>[2],<&l
統計學習方法 李航 讀書筆記
************************************************************ 李航教授《統計學習方法》 統計學教材總結 主要介紹監督學習方法 ***************************************************
【統計學習方法-李航-筆記總結】十一、條件隨機場
本文是李航老師《統計學習方法》第十一章的筆記,歡迎大佬巨佬們交流。 主要參考部落格: https://www.cnblogs.com/YongSun/p/4767734.html 主要內容: 1. 概率無向圖模型 2. 條件隨機場的定義與形式 3. 條件隨機
【統計學習方法-李航-筆記總結】十、隱馬爾可夫模型
本文是李航老師《統計學習方法》第十章的筆記,歡迎大佬巨佬們交流。 主要參考部落格: https://www.cnblogs.com/YongSun/p/4767667.html https://www.cnblogs.com/naonaoling/p/5701634.html htt
【統計學習方法-李航-筆記總結】九、EM(Expectation Maximization期望極大演算法)演算法及其推廣
本文是李航老師《統計學習方法》第九章的筆記,歡迎大佬巨佬們交流。 主要參考部落格: https://www.cnblogs.com/YongSun/p/4767517.html https://blog.csdn.net/u010626937/article/details/751160
【統計學習方法-李航-筆記總結】八、提升方法
本文是李航老師《統計學習方法》第八章的筆記,歡迎大佬巨佬們交流。 主要參考部落格: https://www.cnblogs.com/YongSun/p/4767513.html 主要內容包括: 1. 提升方法AdaBoost演算法 2. AdaBoost演算法的訓練誤差分析
【統計學習方法-李航-筆記總結】七、支援向量機
本文是李航老師《統計學習方法》第七章的筆記,歡迎大佬巨佬們交流。 主要參考部落格: https://www.cnblogs.com/YongSun/p/4767130.html https://blog.csdn.net/wjlucc/article/details/69376003
【統計學習方法-李航-筆記總結】六、邏輯斯諦迴歸和最大熵模型
本文是李航老師《統計學習方法》第六章的筆記,歡迎大佬巨佬們交流。 主要參考部落格: http://www.cnblogs.com/YongSun/p/4767100.html https://blog.csdn.net/tina_ttl/article/details/53519391
【統計學習方法-李航-筆記總結】五、決策樹
本文是李航老師《統計學習方法》第五章的筆記,歡迎大佬巨佬們交流。 主要參考部落格: https://blog.csdn.net/u014248127/article/details/78971875 https://www.cnblogs.com/YongSun/p/4767085.ht
【統計學習方法-李航-筆記總結】四、樸素貝葉斯法
本文是李航老師《統計學習方法》第四章的筆記,歡迎大佬巨佬們交流。 主要參考部落格: https://blog.csdn.net/zcg1942/article/details/81205770 https://blog.csdn.net/wds2006sdo/article/detail
【統計學習方法-李航-筆記總結】三、k近鄰法
本文是李航老師《統計學習方法》第三章的筆記,歡迎大佬巨佬們交流。 主要參考部落格:https://blog.csdn.net/u013358387/article/details/53327110 主要包括以下幾部分: 1. k近鄰演算法 2. k近鄰模型 3. kd樹 1.
統計學習方法-李航(第8章 提升方法筆記)
這一章主要講boosting提升方法,代表方法是AdaBoost演算法,我會從演算法的本質去解釋演算法,儘量用簡單的語言其描述,具體推導過程參考原文。 提升方法就是從弱學習演算法出發,反覆學習,得到一系列弱分類器(又稱為基本分類器),然後組合這些弱分類器,構成一個強分類器。 一、 提
統計學習方法 李航---第5章 決策樹
第5章 決策樹 決策樹(decision tree)是一種基本的分類與迴歸方法。本章主要討論用於分類的決策樹。決策樹模型呈樹形結構,在分類問題中,表示基於特徵對例項進行分類的過程。它可以認為是if-then規則的集合,也可以認為是定義在特徵空間與類空間上的條件概率分佈。其主要
統計學習方法 李航 第一章習題
1.1說明伯努利模型的極大似然估計以及貝葉斯估計中的統計學習方法三要素。伯努利模型是定義在取值為0和1的隨機變數上的概率分佈。假設觀測到的伯努利模型n次獨立資料生成結果,其中k次的結果為1,這時可以用極大似然估計或貝葉斯估計來估計結果為1的概率。
統計學習方法 李航 第二章習題
2.1Minsky和Papert指出:感知機因為是線性模型,所以不能表示複雜的函式,如異或。驗證感知機為什麼不能表示異或 明顯可知異或不具有線性可分性,由感知機定義可知,感知機不能表示異或。
Atitit 學習一項技術的方法總結 目錄 1. 自己動手實現學習法 1 2. 七步學習法 —— 如何高效學習一項技能 1 3. 如何快速學習一項技能-十步學習法 - HugoLester - 部落格
Atitit 學習一項技術的方法總結 目錄 1. 自己動手實現學習法 1 2. 七步學習法 —— 如何高效學習一項技能 1 3. 如何快速學習一項技能-十步學習法 - HugoLester - 部落格園.html 2
《統計學習方法(李航)》講義 第04章 樸素貝葉斯
ima .cn 效率 常用 1-1 估計 實現 技術 com 樸素貝葉斯(naive Bayes) 法是基於貝葉斯定理與特征條件獨立假設的分類方法。對於給定的訓練數據集,首先基於特征條件獨立假設學習輸入/輸出的聯合概率分布;然後基於此模型,對給定的輸入x,利用貝
《統計學習方法(李航)》講義 第05章 決策樹
lan 定義 if-then 利用 建立 then 統計 來源 根據 決策樹(decision tree) 是一種基本的分類與回歸方法。本章主要討論用於分類的決策樹。決策樹模型呈樹形結構,在分類問題中,表示基於特征對實例進行分類的過程。它可以認為是if-then
李航老師的《統計學習方法》第二章算法的matlab程序
com b+ -1 print nbsp 一個 while alpha 學習 參考了http://blog.sina.com.cn/s/blog_bceeae150102v11v.html#post % 感知機學習算法的原始形式,算法2.1參考李航《統計學習方法》書中第
李航《統計學習方法》CH02
三元 由於 nis mir 集合 體會 .com 測試 git CH02 感知機 前言 章節目錄 感知機模型 感知機學習策略 數據集的線性可分性 感知機學習策略 感知機學習算法 感知機學習算法 感知機學習算法的原始形式 算法的收斂性 感知機學習