隱馬爾可夫模型學習筆記(一):前後向演算法介紹與推導
阿新 • • 發佈:2019-01-13
學習隱馬爾可夫模型(HMM),主要就是學習三個問題:概率計算問題,學習問題和預測問題。概率計算問題主要是講前向演算法和後向演算法,這兩個演算法可以說是隱馬爾可夫的重中之重,接下來會依次介紹以下內容。
- 隱馬爾可夫模型介紹
- 模型的假設
- 直接計演算法,前向演算法,後向演算法的介紹與詳細推導
- 根據前後向演算法推出一些結論
補充:推導公式很依賴模型的假設與貝葉斯網路,所以在這之前最好了解貝葉斯網路,這兩天會補充貝葉斯網路。
學習資料:《統計學習方法》,鄒博老師的HMM的ppt,其他。
隱馬爾可夫模型
隱馬爾可夫模型是關於時序的概率模型。由一個隱藏的馬爾可夫鏈隨機生成的不可觀測的狀態隨機序列
隱馬爾可夫模型由初始狀態概率向量 、狀態轉移矩陣 和觀測矩陣 確定,稱為隱馬爾可夫三要素,表示為 ,關於具體的引數介紹如下:
記: 表示所有可能的狀態集合, 表示所有可能的觀測集合。
表示狀態序列, 為對應的觀測序列。
狀態轉移矩陣
:
令
表示
時刻狀態為
,下一時刻(即
)狀態為
的概率,而狀態轉移矩陣
,注意這裡是
的方陣。
觀測矩陣
:
令
表示
時刻狀態為
的條件下,觀測值為
的概率,而觀測矩陣
。
初始狀態概率向量
:
表示初始時刻(即
)時狀態為
的概率。
決定狀態序列, 決定觀測序列。
由以上定義知,隱馬爾可夫做了如下兩個假設(兩個基本性質):
- 齊次馬爾可夫假設:任意時刻 的狀態只與前一時刻