馬爾可夫隨機場與條件隨機場
阿新 • • 發佈:2018-11-26
文章目錄
馬爾可夫隨機場
1. 引言
馬爾可夫隨機場(Markov Random Field,簡稱MRF),是馬爾可夫網的一種,生成式模型,是一種著名的無向圖模型。圖中每個節點表示一個或一組變數,結點之間的邊表示兩個變數之間的依賴關係。馬爾科夫隨機場有一組勢函式,非負實函式,主要用於定義概率分佈函式。
2. 團與極大團
對於一個馬爾科夫隨機場圖中的結點的一個子集,若其中任意兩節點鍵都有邊連線,則成結點子集為一個團。
若在一個團中加入另外任何一個結點都不在形成團,責成該團為極大團。
3. MRF聯合概率
MRF中,多變數之間的聯合概率分佈能基於團分解為多個因子的乘積,每個因子僅與一個團相關。具體來說,對n個變數
所有團構成集合為C,與團
對應的變數集合記為
,則聯合概率
為:
其中
為與團Q對應的勢函式,用於對團Q中的變數關係進行建模,
為規範化因子,以確保P(x)是被正確定義的概率。
很顯然,若變數個數較多,則團的數目將會很多,這就會帶來計算負擔。注意到若團Q不是極大團冊必被一個極大團
所包含,這就意味著
之間的關係不僅體現在勢函式
中還體現在
中於是聯合概率P(X)可基於極大團來定義,假定所有極大團構成的集合為
,則有
,其中
4. MRF的條件獨立性(有向分離)
在f給定的情況下,判斷a和b的獨立性。我們把a,e,c當做一個整體,由貝葉斯網路獨立性分析可知左半部分和b相互獨立,我們認為a和b獨立,通俗點說,這就是有向分離。
而對於MRF有:
- 全域性馬爾科夫性:給定兩個變數子集分離集,則這兩個變數子集條件獨立。
推論:
- 區域性馬爾可夫性:給定某變數的鄰接變數,則該變數獨立與其他變數。
- 成對馬爾科夫性:給定所有其他變數,兩個非鄰接變數條件獨立。