近期在看的動作識別相關的工作中fisher vector及其改進版本被廣泛的應用，因此打算從Fisher Vector開始入手整理相關知識。

參考的部落格內容：

完整介紹Fisher Vector方法的論文

"ImageClassification with the Fisher Vector: Theory and Practice"

    Fisher Vector的詳細概念可以見以上的幾篇博文（或是直接看論文）。下面主要從FV的計算步驟的角度進行介紹。首先給出以上的論文中的演算法步驟做參考：

對於一副影象，提取T個描述子（比如SIFT，比如iDT)，每個描述子是D

取對數後可以得到：

此處的lamda為描述獨立同分布的引數。現在要用一組K個高斯分佈的線性組合（即GMM混合高斯模型）來逼近這個分佈，其引數即為lamda。GMM模型可以用下式描述：

其中pi為第i個高斯分佈

以下引數lamda，注意此處的lamda在計算FV時是已知量，是預先通過GMM求解得到的先驗值：

wi為係數，wi>=0,sum(wi)=1。另外兩個引數為高斯分佈中的平均值和標準差。

在計算之前先定義佔有概率，即特徵xt由第i個高斯分佈生成的概率：

對各個引數求偏導可以得到

注意此處的i是指第i個高斯分佈，d是指xt的第d維，因此得到的結果數目為 w：K-1個；均值：K*D個；標準差K*D個。因此共有（2D+1）*K-1個偏導結果，這裡的-1是由於wi的約束。

在計算完之後，還需要進行歸一化。對三種變數分別計算歸一化需要的fisher matrix的對角線元素的期望：

此處T為最開始的描述子的數目。最終歸一化後的fisher vector的結果為：

在上面提及的”Image Classification with the Fisher Vector: Theory andPractice“一文中，對最後的歸一化步驟進行了改進。先對

綜上所述，基於Fisher Vector的影象學習的完整過程應該描述為下面幾個步驟。

1.選擇GMM中K的大小

1.用訓練圖片集中所有的特徵（或其子集）來求解GMM（可以用EM方法），得到各個引數；

2.取待編碼的一張影象，求得其特徵集合；

3.用GMM的先驗引數以及這張影象的特徵集合按照以上步驟求得其fv；

4.在對訓練集中所有圖片進行2,3兩步的處理後可以獲得fishervector的訓練集，然後可以用SVM或者其他分類器進行訓練。

經過fisher vector的編碼，大大提高了影象特徵的維度，能夠更好的用來描述影象。FisherVector相對於BOV的優勢在於，BOV得到的是一個及其稀疏的向量，由於BOV只關注了關鍵詞的數量資訊，這是一個0階的統計資訊；FisherVector並不稀疏，同時，除了0階資訊，Fisher Vector還包含了1階(期望)資訊、2階(方差資訊)，因此FisherVector可以更加充分地表示一幅圖片。