書：李航老師的《統計學習方法》。

1.1 統計學習

統計學習(statistical learning)的方法：基於資料構建統計模型從而對資料進行預測與分析。

統計學習包括：supervised learning, unsupervised learning, semi-supervised learning, reinforced learning等。

這本書主要討論 supervised learning

三要素：模型，策略和演算法。

步驟：

1. 得到traing data
2. 確定hypothesis space，即模型的集合
3. 確定模型選擇的準則，即策略
4. 實現求解最優模型的演算法，即演算法
5. 通過學習方法選擇最優模型
6. 利用學習的最優模型對test data進行預測或分析

1.2 監督學習