1. 程式人生 > >機器學習儲備(3):似然函式例子解析

機器學習儲備(3):似然函式例子解析

似然函式是個什麼函式,它的意義是什麼?它與概率相比,有什麼不同嗎?

1、似然函式

似然函式是一種關於統計模型中的引數的函式,表示模型引數中的似然性。

給定輸出 x 時,關於引數 θ 的似然函式 L(θ|x),在數值上它等於給定引數 θ 後變數 X 的概率:

這個是非常重要的!

舉個例子,我們拋擲一枚硬幣,這枚硬幣不是理論上的一半一半的出現概率,而是動了手腳的,出現正面的概率是0.2,現在我們預測一下拋擲10次,出現正面的次數是多少,如果用 X 表示出現正面的次數,那麼

P(X) = 0.2

E(X) = 0.2 * 10 = 2 次

現在我們拋擲10枚這個硬幣,結果顯示,有2次出現正面,現在預測下這枚硬幣出現正面的概率到底有多大呢?這就是一個似然問題,求解模型本身的一些屬性。求解它需要假定誤差分佈滿足高斯分佈,然後求出似然函式,因為既然已經發生了,就直接求概率發生的最大值吧,既然求最值,自然就能求出出現正面的概率引數來了。

2、似然與概率

概率與似然的不同

概率用於在已知一些引數的情況下,預測接下來的觀測所得到的結果。

而似然性則是用於在已知某些觀測所得到的結果時,對有關事物的性質的引數進行估計:似然是在知道輸出結果(比如,對應1萬個樣本結果),求事物的性質的引數,如線性迴歸的中的權重引數。