1. 程式人生 > >機器學習預備知識

機器學習預備知識

 

匆忙之中將凌亂的學習摘錄記錄於此,有勝於無吧。

涉及部分預備知識,比較雜亂。

線性代數

1.內積

 

2.範數

 

3.正交

 

4.二次型

 

 

運籌學

1.線性規劃

線性規劃的求解方法:圖解法、單純形法等。

 

2. 對偶問題

 

3. 二次規劃

二次規劃求解過程,轉化成對偶問題,以及利用拉格朗日乘子和KKT條件是關鍵。

可以參照 周志華《機器學習》附錄部分的拉格朗日乘子法的知識以及《運籌學》中提到的KT條件等進行理解。

 

本篇知識主要為 支援向量機(SVM)鋪路。

其實還有很多重要的基礎知識,比如特徵值與特徵向量等等知識,都是值得進一步理解的。

 

----------------------------------------------------------------------------------

2018/10/02 補充

學習路上吃了很多虧,無法及時的將所學的東西運用起來。時間不夠用啊,我的專業不是這個方向,有很多事情等著我去做呢,這個時候最高效的方式是先了解如何使用,然後練習即可。學有餘力再去專研其理論知識(人生苦短)。以今天的經驗教訓來看,本文的這些東西,以後不要再糾結了,儘量不要把時間花在這方面。

----------------------------------------------------------------------------------

參考資料:

1. 《工程數學 線性代數》 同濟大學,第六版。

2. 《運籌學》清華大學,第三版。

3. 《機器學習》周志華著。