1. 程式人生 > >MAP 最大後驗——利用經驗數據獲得對未觀測量的點態估計

MAP 最大後驗——利用經驗數據獲得對未觀測量的點態估計

rem 外文 密度 分享圖片 正則化 inline sig reg 最大似然估計

Map

(最大後驗)

在貝葉斯統計學中,最大後驗(Maximum A Posteriori,MAP)估計可以利用經驗數據獲得對未觀測量的點態估計。它與Fisher的最大似然估計(Maximum Likelihood,ML)方法相近,不同的是它擴充了優化的目標函數,其中融合了預估計量的先驗分布信息,所以最大後驗估計可以看作是正則化(regularized)的最大似然估計。
中文名
最大後驗
外文名
Maximum A Posteriori
應用學科
貝葉斯統計學
假設我們需要根據觀察數據x估計沒有觀察到的總體參數θ,讓f作為x的采樣分布,這樣f(x| θ)就是總體參數為θ時x的概率。函數 技術分享圖片 即為似然函數,其估計就是θ的最大似然估計。 假設θ存在一個先驗分布g,這就允許我們將θ作為貝葉斯統計(en:Bayesian statistics)中的隨機變量,這樣θ的後驗分布就是:
   技術分享圖片
其中Θ是g的domain,這是貝葉斯定理(en: Bayes‘ theorem)的直接應用。 技術分享圖片 最大後驗估計方法於是估計θ為這個隨機變量的後驗分布的mode: 後驗分布的分母與θ無關,所以在優化過程中不起作用。註意當前驗g是 uniform(也就是常函數)時最大後驗估計與最大似然估計重和。 最大後驗估計可以用以下幾種方法計算: 解析方法,當後驗分布的模能夠用closed form方式表示的時候用這種方法。當使用en:conjugate prior的時候就是這種情況。通過如共扼積分法或者牛頓法這樣的數值優化方法進行,這通常需要一階或者導數,導數需要通過解析或者數值方法得到。通過期望最大化算法的修改實現,這種方法不需要後驗密度的導數。 盡管最大後驗估計與 Bayesian 統計共享前驗分布的使用,通常並不認為它是一種 Bayesian 方法,這是因為最大後驗估計是點估計,然而 Bayesian 方法的特點是使用這些分布來總結數據、得到推論。Bayesian 方法試圖算出後驗均值
或者中值以及posterior interval,而不是後驗模。尤其是當後驗分布沒有一個簡單的解析形式的時候更是這樣:在這種情況下,後驗分布可以使用Markov chain Monte Carlo技術來模擬,但是找到它的模的優化是很困難或者是不可能的。

MAP 最大後驗——利用經驗數據獲得對未觀測量的點態估計