什麼是機器學習?

①Two definitions of Machine Learning are offered. Arthur Samuel described it as: "the field of study that gives computers the ability to learn without being explicitly programmed." This is an older, informal definition.

②Tom Mitchell provides a more modern definition: "A computer program is said to learn from experience E with respect to some class of tasks T and performance measure P, if its performance at tasks in T, as measured by P, improves with experience E."

任何機器學習問題可以分為兩大類：監督學習和無監督學習

什麼是監督學習?

在監督學習中，我們給出了一個數據集，並且已經知道我們正確的輸出應該是什麼樣子，認為輸入和輸出之間存在關係。

監督學習問題被歸類為“迴歸”和“分類”問題。在迴歸問題中，我們試圖在連續輸出中預測結果，這意味著我們試圖將輸入變數對映到一些連續函式。在分類問題中，我們試圖在離散輸出中預測結果。換句話說，我們試圖把輸入變數對映成離散的類別。

（a）迴歸-給定一個人的照片，我們必須根據給定的圖片來預測他們的年齡。

1、找到代價函式：是用迴歸找到最佳答案的一個主要方法

例如下面這個線性迴歸：

為了找到J的使J為最小值的（θ的值），一般會使用梯度下降演算法

2、梯度下降演算法：

3、多特徵線性迴歸

4、多特徵線性迴歸的梯度下降演算法

①特徵縮放：

特徵值之間的取值範圍儘可能得相似，區別過大會導致求最優值時變得複雜，可以才用縮放的方法去縮放特徵值使他們的範圍足夠接近，且可以縮放到-n~+n

②選擇適合的特徵

5、正規方程

①正規方程的不可逆性

   a.當兩個特徵存在密切的相關例如線性相關時，正規方程右邊存在無意義或者求不出θ

    b.當特徵值比較多而樣本比較少時

6、正規方程和梯度下降演算法都是用來求θ的

二者區別即使用情況，當特徵值的數量n小於10000時採用正規方程，因為正規方程更加方便快捷

但是當n大於10000時，這一項比較難以得出，時間複雜度太高，所以需要選擇使用梯度下降演算法

（b）分類-對於一個腫瘤患者，我們必須預測腫瘤是惡性還是良性。

什麼是無監督學習？

我們不知道問題的模樣，但是演算法會自動抽出資料中的結果集，聚類或非聚類

（a）聚類分析：以100萬不同的收集和尋找基因，對這些基因的方式自動組組，是由不同的“類似或相關的變數，如lifespan，位置，角色，和作業系統。

（b）非聚類演算法：雞尾酒會”，讓你在尋找混沌結構的環境。（即個人的聲音識別聲音和音樂從網格剖分（雞尾酒會）。