摘自：https://www.zhihu.com/question/35866596/answer/139485548

用一個活生生的例子來說明條件隨機場的，十分的通俗易懂！原文在這裏

[Introduction to Conditional Random Fields]

假設你有許多小明同學一天內不同時段的照片，從小明提褲子起床到脫褲子睡覺各個時間段都有（小明是照片控！）。現在的任務是對這些照片進行分類。比如有的照片是吃飯，那就給它打上吃飯的標簽；有的照片是跑步時拍的，那就打上跑步的標簽；有的照片是開會時拍的，那就打上開會的標簽。問題來了，你準備怎麽幹？

一個簡單直觀的辦法就是，不管這些照片之間的時間順序，想辦法訓練出一個多元分類器。就是用一些打好標簽的照片作為訓練數據，訓練出一個模型，直接根據照片的特征來分類。例如，如果照片是早上6:00拍的，且畫面是黑暗的，那就給它打上睡覺的標簽;如果照片上有車，那就給它打上開車的標簽。

這樣可行嗎？

乍一看可以！但實際上，由於我們忽略了這些照片之間的時間順序這一重要信息，我們的分類器會有缺陷的。舉個例子，假如有一張小明閉著嘴的照片，怎麽分類？顯然難以直接判斷，需要參考閉嘴之前的照片，如果之前的照片顯示小明在吃飯，那這個閉嘴的照片很可能是小明在咀嚼食物準備下咽，可以給它打上吃飯的標簽；如果之前的照片顯示小明在唱歌，那這個閉嘴的照片很可能是小明唱歌瞬間的抓拍，可以給它打上唱歌的標簽。

所以，為了讓我們的分類器能夠有更好的表現，在為一張照片分類時，我們必須將與它相鄰的照片的標簽信息考慮進來。這——就是條件隨機場(CRF)大顯身手的地方！

#從例子說起——詞性標註問題
-----

啥是詞性標註問題？

非常簡單的，就是給一個句子中的每個單詞註明詞性。比如這句話：“Bob drank coffee at Starbucks”，註明每個單詞的詞性後是這樣的：“Bob (名詞) drank(動詞) coffee(名詞) at(介詞) Starbucks(名詞)”。

下面，就用條件隨機場來解決這個問題。

以上面的話為例，有5個單詞，我們將：**(名詞，動詞，名詞，介詞，名詞)**作為一個標註序列，稱為l，可選的標註序列有很多種，比如l還可以是這樣：**（名詞，動詞，動詞，介詞，名詞）**，我們要在這麽多的可選標註序列中，挑選出一個**最靠譜**的作為我們對這句話的標註。

怎麽判斷一個標註序列靠譜不靠譜呢？

就我們上面展示的兩個標註序列來說，第二個顯然不如第一個靠譜，因為它把第二、第三個單詞都標註成了動詞，動詞後面接動詞，這在一個句子中通常是說不通的。

假如我們給每一個標註序列打分，打分越高代表這個標註序列越靠譜，我們至少可以說，凡是標註中出現了**動詞後面還是動詞**的標註序列，要給它**減分！！**

上面所說的**動詞後面還是動詞**就是一個特征函數，我們可以定義一個特征函數集合，用這個特征函數集合來為一個標註序列打分，並據此選出最靠譜的標註序列。也就是說，每一個特征函數都可以用來為一個標註序列評分，把集合中所有特征函數對同一個標註序列的評分綜合起來，就是這個標註序列最終的評分值。

#定義CRF中的特征函數

現在，我們正式地定義一下什麽是CRF中的特征函數，所謂特征函數，就是這樣的函數，它接受四個參數：

- 句子s（就是我們要標註詞性的句子）
- i，用來表示句子s中第i個單詞
- l_i，表示要評分的標註序列給第i個單詞標註的詞性
- l_i-1，表示要評分的標註序列給第i-1個單詞標註的詞性

它的輸出值是0或者1,0表示要評分的標註序列不符合這個特征，1表示要評分的標註序列符合這個特征。

**Note:**這裏，我們的特征函數僅僅依靠當前單詞的標簽和它前面的單詞的標簽對標註序列進行評判，這樣建立的CRF也叫作線性鏈CRF，這是CRF中的一種簡單情況。為簡單起見，本文中我們僅考慮線性鏈CRF。

#從特征函數到概率
定義好一組特征函數後，我們要給每個特征函數f_j賦予一個權重λ_j。現在，只要有一個句子s，有一個標註序列l，我們就可以利用前面定義的特征函數集來對l評分。

上式中有兩個相加，外面的相加用來相加每一個特征函數f_j，裏面的相加用來相加句子中每個位置的單詞的的特征值。

對這個分數進行**指數化和標準化**，我們就可以得到標註序列l的概率值**p(l|s)**，如下所示：

#幾個特征函數的例子
前面我們已經舉過特征函數的例子，下面我們再看幾個具體的例子，幫助增強大家的感性認識。

當l_i是“副詞”並且第i個單詞以“ly”結尾時，我們就讓f1 = 1，其他情況f1為0。不難想到，f1特征函數的權重λ1應當是正的。而且λ1越大，表示我們越傾向於采用那些把以“ly”結尾的單詞標註為“副詞”的標註序列

如果i=1，l_i=動詞，並且句子s是以“？”結尾時，f2=1，其他情況f2=0。同樣，λ2應當是正的，並且λ2越大，表示我們越傾向於采用那些把問句的第一個單詞標註為“動詞”的標註序列。

條件隨機場——時間序列（句子單詞序列也算），其特征函數必須要考慮前一刻的數據