1. 程式人生 > ><知識庫的構建> 5-3 馬爾科夫邏輯 Markov logic

<知識庫的構建> 5-3 馬爾科夫邏輯 Markov logic

9.png mat alt info 函數 right 根據 ane mage

引自Fabian Suchanek的講義。

總結:馬爾科夫你需要知道這麽幾個點:

第一個是要知道如何形成馬爾科夫隨機場的條件,就是當有多個隨機變量滿足:Xi只由他的鄰居決定,至於鄰居是可以形成無向圖,鄰居是點,鄰居和鄰居的連線是邊。

第二個要清楚的是Hammersley-Clifford-Theorem形成的條件,很容易,是說馬爾科夫隨機場裏面的P都大於0的時候,這個也叫作矢量化,在CRF裏面有提到,也就是當P大於0的時候,x也就是一條一條的rules,當他們成立的時候的概率等於勢函數的乘積。

第三個要知道MRF和rules有什麽關系,為什麽要在這裏運用MRF,MRF是可以計算所有KB的權重不同的時候的概率,概率是怎麽算的呢,在第二條我講過了,就是當rules成立的時候勢函數的乘積,但是在計算KB的總權重時,並不是每個rules都會成立,我們根據式子,可以知道P是是函數的乘積,勢函數是e的權重次方,e是單調遞增函數,所以權重越大,那麽勢函數越大,那麽P就越大,當權重最大的時候,也就是rules都成立的時候,就是KB權重最大的時候。

下圖是一個表格,w代表possible world,X代表rules,例如hasSpouse之類的,F/T是隨機身體成的答案,F代表對應的X不成立反之為T,P代表著出現該possible world的概率。

技術分享圖片

馬爾科夫隨機場MRF:由一系列隨機變量組成,且它們滿足:

技術分享圖片

N(Xi) 表示Xi的鄰居,也就是能決定Xi的東西

整個式子表示Xi只被它的鄰居決定

下圖為一個馬爾科夫隨機場

技術分享圖片

從圖中我們可以看出X123是互相依賴的

X45是互相依賴的,因為4出現5也出現,4不出現5也不出現,這個道理對5也成立。

鄰居Neighbors:互相依賴的就可以成為鄰居,鄰居之間可以形成無向圖,也就是整個表格的cliques

表示鄰居:N(X1) = {X2,X3} etc…

表示cliques:C1 = {X1,X2,X3}, C2 = {X1,X2,X3}

最大的clique:cliques中邊最多的,此處是C1

Hammersley-Clifford-Theorem:若MRF中每個P都大於0,那麽

技術分享圖片

勢函數:根據表格中的rules是否成立來計算

例如:

技術分享圖片

若條件成立得到的的是權重,那麽勢函數的結果是e的權重次方

我們有這些帶權重的rules,我們想計算KB的各種possibleword出現的概率分布:可以使用MRF

技術分享圖片

我們設is(Ron, Immature)為X1,likes(H,Ron)為X2, type(H,sor)為X3,我們可得:

技術分享圖片

第一個式子是指若x1成立,那麽得到權重10,若不成立則得到權重0,所以對應的勢函數結果就是e的10次方或者是e的0次方。

最終P就是這三種情況的乘積。

MRF與MAXSAT:當W最大時得到的P就是KB權重最大的概率

P是勢函數的成績,勢函數是e的權重次方,e是單調遞增函數,所以權重越大那麽勢函數越大,那麽P越大,所以要使P變大,最根本上是要讓w變大,即使用梯度上升的方法使W變大。

公式推理:

使下面的式子最大:

技術分享圖片

即:找到使此式子值最大的x

技術分享圖片

所以得到P至於W有關,所以盡量讓w大一些。

正則化Normalization:因為要讓P在0和1之間,所以把勢函數的乘積除以了Z

技術分享圖片

馬爾科夫邏輯網Markov Logic Network:一些帶權重的rules形成馬爾科夫邏輯網,factor是勢函數,當rules為positive時即成立時,則能得到勢函數的值是e的權重次方,否則是e的0次方。

<知識庫的構建> 5-3 馬爾科夫邏輯 Markov logic