字尾樹系列一:概念以及實現原理（ the Ukkonen algorithm）
首先說明一下字尾樹系列一共會有三篇文章，本文先介紹基本概念以及如何線性時間內構件字尾樹，第二篇文章會詳細介紹怎麼實現字尾樹（包含實現程式碼），第三篇會著重談一談字尾樹的應用。
本文分為三個部分，
- 首先介紹一下字尾樹的“前身”– trie樹以及字尾樹的概念；
- 然後介紹一下怎麼通過trie樹在平方時間內構件字尾樹；
- 最後介紹一下怎麼改進從而可以線上性時間內構件字尾樹；
一，從trie樹到字尾樹
在接觸字尾樹之前先簡單聊聊trie樹，也就是字典樹。trie樹有三個性質：
- 根節點不包含字元，除根節點外每一個節點都只包含一個字元。
- 從根節點到某一節點，路徑上經過的字元連線起來，為該節點對應的字串。
- 每個節點的所有子節點包含的字元都不相同。
將一系列字串插入到trie樹的過程可以這樣來實現：首先，樹根不存任何字元；對於每個字串，從左到右，沿著樹從根節點開始往下走直到找不到“路”可以走的時候，“自己開闢一條路”繼續往下走。比如往trie樹裡面存放ana
上左圖這樣儲存的時候有點浪費。為了更高效我們把沒有分支的路徑壓縮，於是得到上右圖。很簡單吧
介紹完trie樹之後呢，我們再來看一看字尾，直接列出一個字串MISSISSIPPI的所有後綴
1. MISSISSIPPI
2. ISSISSIPPI
3. SSISSIPPI
4. SISSIPPI
5. ISSIPPI
6. SSIPPI
7. SIPPI
8. IPPI
9. PPI
10. PI
11. I
而將這些字尾全部插入前面提到的trie樹中並壓縮，就得到字尾樹啦
二，兩種方法在平方時間內構件字尾樹
所謂的平方時間是指O(|T|*|T|)，|T|是指字串的長度。
第一種方法非常顯然，就是直接按照字尾樹的定義來就可以了，將各個字尾依次插入trie樹中，再壓縮，總的時間複雜度顯然是平方級別的。
這裡給出的是另外一種方法。對照上面MISSISSIPPI的所有後綴，我們注意到第一種方法就是從左到右掃描完一個字尾再從上到下掃描所有的字尾。那麼另外一種思路就是，先安位對齊，然後從上到下掃描完每個位，再從左到右掃描下一位。舉個例子吧，第一種方法相當於先掃描完字尾１：MISSISSIPPI ，再往下掃描字尾２：ISSISSIPPI 以此類推；而第二種方法相當於從上到下先插入第一個字元M，然後再從上到下插入第二個字元I(有兩個)，然後再從上到下插入字元S(有三個)以此類推，參見下圖。
但是具體怎麼操作呢？因為顯然每次操作不能是簡簡單單的插入字元而已！
我們再後頭來看看上述過程，形式化一點，我們將原先的字串表示為
T = t1t2 … tn$，其中ti表示第i個字元
Pi = t1t2 … ti ， i:th prefix of T
那麼，我們每次插入字元ti，相當於完成一個從Trie(Pi-1)到Trie(Pi)的過程，當所有字元插入完畢的時候我們整個字尾樹也就構建出來了。參見下圖：插入第二個字元b相當於完成了從Trie(a)到Trie(ab)的過程。。。。
那我們怎麼做呢？
上圖中也提示了，其實我們需要額外保留一個尾部連結串列，連線著當前的“尾部”節點－－也就是對應著Pi的一個字尾的那些個點。我們注意到尾部連結串列實際上是從表示T[0 .. i]字尾的點指向表示T[1 .. i]字尾的點再指向表示T[2 .. i]字尾的點，以此類推。
也可以看得出來，每次插入一個字元都需要遍歷一下連結串列，第一次遍歷的時候連結串列長度為1(就是根節點),第二次遍歷的時候連結串列長度為2(點a,和根節點，參見Trie(a) )，以此類推，可知遍歷的總複雜度是O(|T|*|T|)，建立連結串列也需要O(|T|*|T|)，後續壓縮Trie也需要O(|T|*|T|)，故而整個演算法複雜度就是O(|T|*|T|)。
現在說明一下為什麼演算法是正確的？Trie(Pi-1)儲存的是Pi-1的所有後綴，Trie(Pi)儲存的是Pi的所有後綴。Pi的字尾可以由Pi-1所有後綴後面插入字元ti，以及字尾ti所構成。那麼我們沿著Trie(Pi-1)尾部連結串列插入字元ti的過程也就是插入Pi的所有後綴的過程，所有演算法是正確的。
但是，有沒有小失望，畢竟幹了這麼久發現跟第一種方法相比沒有收益（哭！）。
其實不用失望，我們做這麼多的目的在於通過改進，整個演算法可以實現線性的，下面就一步步介紹這種改進演算法。
三，改進第二種演算法以實現線性時間建立字尾樹
1 直接在後綴樹上操作
首先一點我們必須直接在後綴樹上操作了，不能先建立Trie樹再壓縮，因為遍歷Trie樹的複雜度就已經是平方級別了。
我們定義幾種節點：
- 葉節點： 出現在後綴樹葉子上的節點；
- 顯式節點：所有出現在後綴樹中的節點。顯然葉節點也是顯示節點；
- 內部節點：顯示節點中不是葉子節點的所有節點；
- 隱式節點：出現在Trie樹中但是沒有出現在後綴樹中的點；（因為路徑壓縮）
接下來我們來看看前面提到的尾部連結串列，尾部連結串列顯然包含了當前字尾樹中的葉節點以及部分的顯式/隱式節點。沿著尾部連結串列更新:
- 遇到葉子節點時只需往葉子所在的邊上面的字串後面插入字元就好了，不用改變樹的結構；
- 遇到顯式節點的時候，先看看插入的字元是否出現在顯式節點後緊跟的字元集合中（比如上圖中紅色的顯式節點後緊跟的字符集和就是｛s,p｝）,如果插入的字元出現在集合中，那麼什麼也不要做（是指不用改變樹的結構），因為已經存在了；如果沒有出現，在顯式節點後面增加一個葉子，邊上標註為這個字元。
- 遇到隱式節點時，一樣，先看看隱式節點後面的字元是不是當前將要插入的字元，如果有則不用管了，沒有則需要將當前隱式節點變為顯式節點，再增加新葉子。
我們用個例子來說明一下怎麼操作，為了便於說明隱式節點，我採用Trie樹表示：
從第三個圖到第四個圖，沿著尾部連結串列插入字元a，那麼連結串列第一個節點為葉節點，故而直接在邊上插入這個字元就好了；連結串列第二個節點還是葉子，在邊上插入字元就好了；第三個節點是隱式節點，看看緊跟著隱式節點後面的字元，不是a，故而將這個隱式節點變為顯式節點，再增加一個葉子；第四個是顯式節點（根節點），其緊跟的字符集和為{a,b}，a出現在這個集合中，故而不用改變結構了。當然了，連結串列還是要維護的啊，Ｏ（∩＿∩）Ｏ哈哈～
好了，到此，我們實現了直接在後綴樹上操作而完全撇開Trie樹了，小有進步啦，～＼（≧▽≦）／～啦啦啦
現在開始優化啦！
2. 自動更新葉節點
首先一點，在後綴樹上直接操作的時候，邊上的字串就沒必要直接儲存啦，我們可以存這個字串對於在原先總的字串T中的座標。如上方右邊那個圖就是將左邊第四個圖，壓縮之後得到的字尾樹。[2,4]就表示baa。
這樣一來啊，儲存字尾樹的空間就大大減小了。
接著，我們來看一下啊，字尾樹S(Pi-1)中的葉子節點在S(Pi)中也是葉子節點，也就是說”一朝為葉，終身為葉“。而且我們還可以注意到尾部連結串列的前半部分全是葉子。也就是說如果S(Pi)有k個葉子，那麼表示T[0 .. i]，……，T[k-1 .. i]字尾的點全是葉子。
我們首先來看一下什麼時候字尾會不在葉子上：T[j .. i-1]不在S(Pi-1)葉子上，表明代表該字尾的點之後還有點存在，也就是說T[0 .. i-1]中存在子串S=T[j .. i-1] + c’ ，其中c’不為空。注意一下這是充分必要條件，因為葉子節點後面是不可能還存在點的。
現在我們來證明一下：（ti加入到 S(Pi-1) 的過程）
-
- 首先，T[0 .. i-1]肯定在葉子上。為什麼呢，因為在S(Pi-1)中T[0 .. i-1]是最長的，如果它不在葉子上，那麼必然存在比T[0 - i-1]還長的串，矛盾，故而T[0 .. i-1]一定在葉子上。
- 其次，對於任何 j < i-1， 如果 T[j .. i-1] 不在樹葉上，那麼 T[j+1 .. i-1] 更不可能在樹葉上；為什麼呢，因為T[j .. i-1]不在葉子上表明T[0 .. i-1]中存在子串S=T[j .. i-1] + c’ ，其中c’不為空。那麼T[0 .. i-1]中y也必然存在子串S‘=T[j+1 .. i-1] + c’，因為S’是S的字尾。故而 T[j+1 .. i-1]也不在葉子上
- 於是我們知道k個葉子一定是T[0 .. i]，……，T[k-1 .. i]
我們來利用一下上述性質。葉節點每次更新都是把ti插入到葉子所在邊的字尾字串中，所以表示字串的區間就變成了[ , ｉ]。那麼我們還有必要每次都沿著尾部連結串列去更新麼？
我們可以這樣，將葉子那個邊上的表示字串的區間用[ , #]來表示，#表示當前插入字元在T中的下標。那麼這樣一來，葉子節點就自動更新啦。
再利用第二個性質，我們完全就可以不管尾部連結串列的前k個節點啦。
這是又一大進步！
咱們接著來！
3. 當新字尾出現在原先後綴樹中
我們來看，根據沿尾部連結串列更新的演算法，無論是顯式節點還是隱式節點，當帶插入字元ti出現在節點的緊跟字元集合的時候，我們就不用管了。也就是說如果T[j .. i]出現在S(Pi-1)，也就是S(T[0 .. i-1])，中的時候，我們就不用改變樹的結構了（當然需要還調整一些引數）。
我們再來看，對於任何 j < i-1，如果T[j .. i]出現在S(T[0 .. i-1])中，那麼T[j+1 .. i]也必然出現在S(T[0 .. i-1])中。下面給出證明：
- 首先我們知道T[0..i-1] 的所有後綴都在後綴樹中。
- 其次，T[0..i-1] 的任意子串都可以表示為它的某一個字尾的字首。
- 所以 T[0..i-1] 的所有子串都在後綴樹中。
- T[j+1 .. i] 是 T[j..i] 的子串， T[j..i] 又是 T[0..i-1] 的子串（因為T[j .. i]出現在S(T[0 .. i-1])中），所以 T[j+1 .. i] 也是 T[0..i-1] 的子串。
- 所以後綴樹中存在 T[j+1 .. i]
這也就是說如果尾部連結串列中某一個節點所代表的字尾加上ti，也就是T[j .. i]，出現在S(T[0 .. i-1])中,那麼連結串列後面的所有節點代表的字尾加上ti也都出現在S(T[0 .. i-1])中。
故而所有這些點，無論是顯式還是隱式節點都可以不用管了。
這又是一個大優化！
綜合上面兩個優化，我們知道事實上我們只需要處理原先尾部連結串列的中間一段節點就可以了，對於這些節點而言，每處理一次必定增加一個新葉子（為什麼呢，因為這些節點既不是葉子節點，又不滿足顯或是隱式節點不用增加葉子的條件）。而”一朝為葉，終身為葉“，我們最終的字尾樹S(T[0 .. n])只有n個葉子(其中tn=)。（為什麼呢，因為不可能存在子串S = T[j .. n]+c’，因為這要求子串中之後還有字元，這是辦不到的），這也就是說整個建樹過程中我們一共只需要在尾部連結串列上處理n次就可以了，這是一個好兆頭！
種種跡象表明我們快到O(|T|)時間了，哈哈，原理就先說這麼多了。能不能實現最終的線性時間，就看下一節－－線性時間內構建字尾樹！
四 引用
１. http://www.cnblogs.com/snowberg/archive/2011/10/21/2468588.html
2. http://blog.csdn.net/v_july_v/article/details/6897097