周志華《機器學習》課後習題解答系列（一）：目錄
對機器學習一直很感興趣，也曾閱讀過李航老師的《統計學習導論》和Springer的《統計學習導論-基於R應用》等相關書籍，但總感覺自己缺乏深入的理解和系統的實踐。最近從實驗室角落覓得南京大學周志華老師《機器學習》一書，隨意翻看之間便被本書內容文筆深深吸引，如獲至寶。遂決定要認真學習本書並將學習過程記錄下來。
感覺若以讀書筆記的形式做記錄未免枯燥（且網上已有大量相關內容）。那就暫且將課後練習的個人思路和答案寫成系列部落格，希望得到朋友們的交流指導。
目錄：
（待完善）
相關推薦
周志華《機器學習》課後習題解答系列（一）：目錄
對機器學習一直很感興趣，也曾閱讀過李航老師的《統計學習導論》和Springer的《統計學習導論-基於R應用》等相關書籍，但總感覺自己缺乏深入的理解和系統的實踐。最近從實驗室角落覓得南京大學周志華老師《機器學習》一書，隨意翻看之間便被本書內容文筆深深吸引，如獲至寶
周志華《機器學習》課後習題解答系列（三）：Ch2
本章概要 本章講述了模型評估與選擇（model evaluation and selection）的相關知識： 2.1 經驗誤差與過擬合（empirical error & overfitting） 精度accuracy、訓練誤差（經驗誤差）
周志華《機器學習》課後習題解答系列（六）：Ch5.8
SOM神經網路實驗 注：本題程式分別基於Python和Matlab實現（這裡檢視完整程式碼和資料集）。 1 基礎概述 1.1 SOM網路概念 SOM(Self-Organizing Map，自組織對映)網路是一種無監督的競爭型神經
周志華《機器學習》課後習題解答系列（六）：Ch5.10
卷積神經網路實驗 - 手寫字元識別 注：本題程實現基於python-theano（這裡檢視完整程式碼和資料集）。 1. 基礎知識回顧 1.1. 核心思想 卷積神經網路（Convolutional Neural Network, C
周志華《機器學習》課後習題解答系列（六）：Ch5.5
這裡的程式設計基於Python-PyBrain。Pybrain是一個以神經網路為核心的機器學習包，相關內容可參考神經網路基礎 - PyBrain機器學習包的使用 5.5 BP演算法實現 實驗過程：基於PyBrain分別實現標準
周志華《機器學習》課後習題解答系列（六）：Ch5.7
5.7. RBF神經網路實驗 注：本題程式基於Python實現（這裡檢視完整程式碼和資料集）。 1. RBF網路基礎 RBF網路採用RBF（Radial Basis Function函式）作為隱層神經元啟用函式，是一種區域性逼近神經
周志華《機器學習》課後習題解答系列（五）：Ch4
本章概要 本章講述決策樹（decision tree），相關內容包括： 決策樹生成（construction） 子決策（sub-decision）、遞迴生成演算法（basic algorithm）、最優劃分屬性、純度（purity）、
周志華《機器學習》課後習題解答系列（四）：Ch3.3
思路概要 程式設計實現對率迴歸： * 採用sklearn邏輯斯蒂迴歸庫函式實現，通過檢視混淆矩陣，繪製決策區域來檢視模型分類效果； * 自己程式設計實現，從極大化似然函數出發，採用梯度下降法得到最優引數，然後嘗試了隨機梯度下降法來優化過程。
周志華《機器學習》課後習題解答系列（七）：Ch6
本章概要 本章講述支援向量機（Support Vector Machine，SVM），相關內容包括： 支援向量分類器（SVM classifier） 支援向量（support vector）、間隔（margin）、最大間隔（maximum
機器學習中的數學系列（一）矩陣與矩陣乘法
1.對於矩陣的認識應當把它看成是多個向量的排列表或把矩陣看成行向量，該行向量中的每個元素都是一個列向量，即矩陣是複合行向量。如下圖所示。 2.對於下面這個矩陣的乘法有兩種看法： (1)矩陣將向量[b1,b2,b3].T進行了運動變換，這種變換可以是同空間內變
周志華機器學習總結
Lecture3 線性模型 基本形式 一般向量形式: 優點: 線性迴歸 廣義線性模型 對數機率迴歸 由對數機率函式確定 $\boldsymbol{\omega}$ 和 $b$
周志華 機器學習 筆記
第1章 1.4歸納偏好 學習演算法自身的歸納偏好與問題是否相配，往往會起到決定作用。 對於上面這句話：你的輸入資料被怎麼處理，最終得到什麼結果，我認為偏好指的就是這個處理的過程。線性非線性？那些feature忽略掉？怎麼利用這些資料？更具體一些，你用網路處理，還是傳統方法，資料的分佈和你
周志華 機器學習 效能度量
2.5 效能度量 效能度量（performance measure）是衡量模型泛化能力的評價標準，在對比不同模型的能力時，使用不同的效能度量往往會導致不同的評判結果。本節除2.5.1外，其它主要介紹分類模型的效能度量。 2.5.1 最常見的效能度量 在迴歸任務中，即預測連續值的問題，最常
周志華 機器學習
盜用weka 緒論 1.2基本術語 學習任務大致分為兩類： 監督學習：分類、迴歸 無監督學習：聚類 泛化：訓練得到的模型適用於新樣本的能力 機器學習領域最重要的國際學術會議是國際機器學習會議 (ICML)、國
周志華機器學習筆記
http://blog.sina.cn/dpool/blog/s/blog_cfa68e330102ycy9.html?md=gd https://www.cnblogs.com/shiwanghualuo/p/7192678.html 首先的階段由卷積層和池化層組成，卷積的節點組織在特徵對映塊
[機器學習]ID3決策樹 詳細計算流程 周志華機器學習 筆記 原創Excel手算方法
1.用到的主要三條熵公式： 1.1 資訊熵 詳情見夏農資訊理論 概率越平衡 事件所含有的資訊量越大 1.2 條件熵 代表某一屬性下不同分類的資訊熵之和 1.3 資訊增益 等於資訊熵減去條件熵，從數值上，越大的資訊增益在資訊熵一定的情況下，代表條件熵越小，條件熵越
周志華-機器學習-筆記（五）- 強化學習
#### 任務與獎賞 #### “強化學習”(reinforcement learning)可以講述為在任務過程中不斷摸索，然後總結出較好的完成任務策略。 強化學習任務通常用馬爾可夫決策過程(Markov Decision Process，簡稱M
周志華機器學習筆記（一）
新人一枚，既是機器學習的初學者，也是首次發部落格。謹以此記錄我的學習體會，做一些總結。望與大家共同學習、共同進步。文中若有內容錯誤或有措詞不嚴謹之處，望大家不吝指出。謝謝！ 機器學習中的基本概念 基本術語 根據上圖我們可以用一個三維空間來了解以
周志華機器學習讀後總結 第10、11章
降維與度量學習 什麼是降維學習 降維是一種分類演算法，它是一種解決維數災難的重要途徑。例如二維資料經過投影變為一維資料從而更好的表徵資料的特徵，然後再進行識別；這就利用了降維的方法。 K鄰近學習 k近鄰學習是一種監督學習演算法，它給定測試樣本，基於某種距離度量找出與訓練集
周志華機器學習讀後總結 第三章
線性模型 基本形式 線性模型試圖學得一個通過屬性的線性組合來進行預測的函式，即f(x)=w1x1+w2x2+…+wdxd+b,w和b學得之後，模型就得以確定，而w直觀表達了各屬性在預測中的重要性。線性迴歸 線性迴歸試圖學得一個線性模型以儘可能準確的預測實值輸出標記。線性迴歸