高斯混合模型（Gaussian mixture model，GMM）是單一高斯概率密度函式的延伸。GMM能夠平滑地近似任意形狀的密度分佈。
欲瞭解高斯混合模型，那就先從基礎的單一高斯概率密度函式講起。（數學公式字型太難看了！！！！！！！）
注意：這一一篇致力於詳細闡述過程的文章，如果你懂，可以快速跳過。

單高斯分佈模型GSM

假設我們有一組在高維空間（維度為 d）的點xi , i=1,…,n，若這些點的分佈近似橢球狀，則我們可用高斯密度函式來描述產生這些點的概率密度函式（統計學記為PDF），記住這個關鍵公式：

g(xi;μ,Σ)=1(2π)d|Σ|−−−−−−−√exp[−12(x

−μ)TΣ−1(x−μ)]

其中μ代表此密度函式的中心點，Σ則代表此密度函式的協方差矩陣（Covariance Matrix），這些引數決定了此密度函式的特性，如函式形狀的中心點、寬窄及走向等。在《程式設計師的數學2》這本書中給大家一個簡單的記法。這東西就是:

□exp(x1−μ,x2−μ,....xn−μ的二次型)
前面的方框表示是多少不重要，常數而已不是0就行。(是0也沒事，這樣的模型我們都輕鬆了。。。)
在實際應用中μ通常用樣本均值來代替，Σ通常用樣本方差來代替。GSM單從橫軸，縱軸都遵循一維高斯分佈。GSM只有單中心點。如圖（圖片來源）：
符合GSM分佈的二維點在平面上

協方差矩陣簡介（與主體內容無關，僅單純介紹）

那麼什麼叫協方差矩陣呢？矩陣中的第(i,j)個元素是 Xi,Xj 的協方差。
Wikipedia是這麼詳細定義的：
假設X是以n個隨機變數（其中的每個隨機變數是也是一個向量，當然是一個行向量）組成的列向量，

X=⎡⎣⎢⎢X1⋮Xn⎤⎦⎥⎥
並且 μi 是其第i個元素的期望值，即, μi=E(Xi) , 其中 Xi 是列向量中的一個標量。協方差矩陣的第i，j項（第i，j項是一個協方差）被定義為如下形式： Σij=cov(Xi,Xj)=E[(Xi−μi)(Xj−μj)⊤]
而協方差矩陣為：
Σ=E[(Xi−E|X|)(Xj−E|X|)⊤]=
⎡⎣⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢E

[(X1−μ1)(X1−μ1)]E[(X2−μ2)(X1−μ1)]⋮E[(Xn−μn)(X1−μ1)]E[(X1−μ1)(X2−μ2)]E[(X2−μ2)(X2−μ2)]⋮E[(Xn−μn)(

機器學習讀書筆記（高斯混合模型GMM與EM）（改）

單高斯分佈模型GSM

協方差矩陣簡介（與主體內容無關，僅單純介紹）

機器學習讀書筆記（高斯混合模型GMM與EM）（改）

網格缺陷檢測（高斯混合模型GMM）

Spark2.0機器學習系列之10：聚類(高斯混合模型 GMM）

高斯混合模型的重疊度計算（Overlap Rate, OLR）

高斯混合模型(GMM Gaussian Mixture Model)

05 EM演算法 - 高斯混合模型 - GMM

R || 高斯混合模型GMM

高斯混合模型GMM

EM演算法和高斯混合模型GMM介紹

【機器學習筆記13】聚類（高斯混合聚類）

機器學習讀書筆記（四）樸素貝葉斯基礎篇之網站賬號分類

Stanford機器學習課程筆記4-Kmeans與高斯混合模型

高斯混合模型（GMM）介紹以及學習筆記

【機器學習】機器學習（十二、十三）：K-means演算法、高斯混合模型

機器學習讀書筆記（三）決策樹基礎篇之從相親說起

CS229 Machine Learning學習筆記:Note 7(K-means聚類、高斯混合模型、EM算法)

【機器學習】EM演算法在高斯混合模型學習中的應用

高斯混合模型學習筆記

斯坦福大學機器學習——EM演算法求解高斯混合模型

圖解機器學習讀書筆記-CH2

機器學習讀書筆記（高斯混合模型GMM與EM）（改）

單高斯分佈模型GSM

協方差矩陣簡介（與主體內容無關，僅單純介紹）

相關推薦