1. 程式人生 > >馬爾可夫隨機場與條件隨機場

馬爾可夫隨機場與條件隨機場

文章目錄

馬爾可夫隨機場

1. 引言

馬爾可夫隨機場(Markov Random Field,簡稱MRF),是馬爾可夫網的一種,生成式模型,是一種著名的無向圖模型。圖中每個節點表示一個或一組變數,結點之間的邊表示兩個變數之間的依賴關係。馬爾科夫隨機場有一組勢函式,非負實函式,主要用於定義概率分佈函式。

2. 團與極大團

對於一個馬爾科夫隨機場圖中的結點的一個子集,若其中任意兩節點鍵都有邊連線,則成結點子集為一個
若在一個團中加入另外任何一個結點都不在形成團,責成該團為極大團
在這裡插入圖片描述

3. MRF聯合概率

MRF中,多變數之間的聯合概率分佈能基於團分解為多個因子的乘積,每個因子僅與一個團相關。具體來說,對n個變數 { x 1 ,

x 2 . . . , x n }
\{x_1,x_2...,x_n\} 所有團構成集合為C,與團 Q ϵ C Q\epsilon C 對應的變數集合記為 x Q x_Q ,則聯合概率 P ( X ) P(X) 為: P ( X ) = 1 Z Q ϵ C ψ Q ( x Q ) P(X)=\frac {1}{Z} \prod_{Q\epsilon C}\psi_Q(x_Q) 其中 ψ Q \psi_Q 為與團Q對應的勢函式,用於對團Q中的變數關係進行建模, Z = x Q ϵ C ψ Q ( x Q ) Z=\sum_x \prod_{Q\epsilon C}\psi_Q(x_Q) 為規範化因子,以確保P(x)是被正確定義的概率。
很顯然,若變數個數較多,則團的數目將會很多,這就會帶來計算負擔。注意到若團Q不是極大團冊必被一個極大團 Q Q^* 所包含,這就意味著 x Q x_Q 之間的關係不僅體現在勢函式 ψ Q \psi_Q 中還體現在 ψ Q \psi_Q^* 中於是聯合概率P(X)可基於極大團來定義,假定所有極大團構成的集合為 C C^* ,則有 P ( X ) = 1 Z Q ϵ C ψ Q ( x Q ) P(X)=\frac {1}{Z^*} \prod_{Q\epsilon C^*}\psi_Q(x_Q) ,其中 Z = x Q ϵ C ψ Q ( x Q ) Z=\sum_x \prod_{Q\epsilon C^*}\psi_Q(x_Q)

4. MRF的條件獨立性(有向分離)

在這裡插入圖片描述
在f給定的情況下,判斷a和b的獨立性。我們把a,e,c當做一個整體,由貝葉斯網路獨立性分析可知左半部分和b相互獨立,我們認為a和b獨立,通俗點說,這就是有向分離
而對於MRF有:

  • 全域性馬爾科夫性:給定兩個變數子集分離集,則這兩個變數子集條件獨立。

推論:

  • 區域性馬爾可夫性:給定某變數的鄰接變數,則該變數獨立與其他變數。
  • 成對馬爾科夫性:給定所有其他變數,兩個非鄰接變數條件獨立。

條件隨機場

(https://www.jianshu.com/p/55755fc649b1)