1. 程式人生 > >哈夫曼編碼與哈夫曼樹

哈夫曼編碼與哈夫曼樹

哈夫曼樹─即最優二叉樹,帶權路徑長度最小的二叉樹,經常應用於資料壓縮。 在計算機資訊處理中,“哈夫曼編碼”是一種一致性編碼法(又稱“熵編碼法”),用於資料的無損耗壓縮。這一術語是指使用一張特殊的編碼表將源字元(例如某檔案中的一個符號)進行編碼。這張編碼表的特殊之處在於,它是根據每一個源字元出現的估算概率而建立起來的(出現概率高的字元使用較短的編碼,反之出現概率低的則使用較長的編碼,這便使編碼之後的字串的平均期望長度降低,從而達到無失真壓縮資料的目的)。這種方法是由David.A.Huffman發展起來的。 

樹的帶權路徑長度記為

WPL= (W1*L1+W2*L2+W3*L3+...+Wn*Ln)

,N個權值Wi(i=1,2,...n)構成一棵有N個葉結點的二叉樹,相應的葉結點的路徑長度為Li(i=1,2,...n)。可以證明哈夫曼樹的WPL是最小的。

~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~

哈夫曼編碼步驟:

一、對給定的n個權值{W1,W2,W3,...,Wi,...,Wn}構成n棵二叉樹的初始集合F= {T1,T2,T3,...,Ti,...,Tn},其中每棵二叉樹Ti中只有一個權值為Wi的根結點,它的左右子樹均為空。(為方便在計算機上實現算 法,一般還要求以Ti的權值Wi的升序排列。)
二、在F中選取兩棵根結點權值最小的樹作為新構造的二叉樹的左右子樹,新二叉樹的根結點的權值為其左右子樹的根結點的權值之和。
三、從F中刪除這兩棵樹,並把這棵新的二叉樹同樣以升序排列加入到集合F中。
四、重複二和三兩步,直到集合F中只有一棵二叉樹為止。

~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~

簡易的理解就是,假如我有A,B,C,D,E五個字元,出現的頻率(即權值)分別為5,4,3,2,1,那麼我們第一步先取兩個最小權值作為左右子樹構造一個新樹,即取1,2構成新樹,其結點為1+2=3,如圖:

12

虛線為新生成的結點,第二步再把新生成的權值為3的新樹升序方式放到剩下的集合中。1、2兩棵樹刪除,所以集合變成{5,4,3,3},再根據第二步,取最小的兩個權值構成新樹,如圖:

13

集合變成{6,5,4}。再依次建立哈夫曼樹,取4和5,再取6和9,如下圖:

14

其中各個權值替換對應的字元即為下圖:

15

左子樹0 右子樹1.ABCDE一定是葉子結點,所對應的哈弗曼編碼就是從根節點“讀”下來。 所以各字元對應的編碼為:A->11,B->10,C->00,D->011,E->010

哈夫曼編碼是一種無字首編碼。解碼時不會混淆。其主要應用在資料壓縮,加密解密等場合。

說到這裡我要插一句:

A,B,C,D,E五個字元,由於計算機只能識別0,1,所以可以用 0 1 10 11 100 來表示,然而僅僅這樣是不行的,並不能區分。

----我來舉個例子說明為什麼不能區分:隨便寫一段:111001011. 解碼可能就成為AAABBABAA。仔細想想應該就懂了。

所以,若要區分,可以使用定長操作碼,就是每條需要3位(ABCDE則對應000,001,010,011,100)。每個字元都需要3位這無疑是一種浪費(2^3=8,3位可以表示8種資料 ,還有3條沒有作用),如何進行優化呢?便有了哈夫曼編碼。

還是這道題,我們用數字對比一下哈夫曼編碼的作用。

上面算出來的結果是:ABCDE分別對應11,10,00,011,010.這是可以區分的。

----我同樣來舉個例子說明為什麼能區分:隨便寫一段:111001011。解碼就是:ABEA。這是必然的。

所以,我們不需要用每條3位去編碼了,我們來計算一下節省了多少位。

假如ABCDE是共有1000條指令,根據他們的權值(5,4,3,2,1)計算他們的頻率為(5/15,4/15,3/15,2/15,1/15)。

計算得在這1000條中, A大約有333條,B大約有266條,C大約有200條,D大約有133條,E大約有66條。(血崩!!我為什麼不找個好計算一點的例子抓狂

而上面剛求出的ABCDE所佔位數分別為(2,2,2,3,3),計算總位數為2*333+2*266+2*200+3*133+3*66=2195 

看見了吧! 2195<3000(3*1000) 效果還是很明顯滴~

C語言程式碼實現(程式碼來源於網路):

/*-------------------------------------------------------------------------
 * Name:   哈夫曼編碼原始碼。
 * Date:   2011.04.16
 * Author: Jeffrey Hill+Jezze(解碼部分)
 * 在 Win-TC 下測試通過
 * 實現過程:著先通過 HuffmanTree() 函式構造哈夫曼樹,然後在主函式 main()中
 *           自底向上開始(也就是從陣列序號為零的結點開始)向上層層判斷,若在
 *           父結點左側,則置碼為 0,若在右側,則置碼為 1。最後輸出生成的編碼。
 *------------------------------------------------------------------------*/
#include <stdio.h>
#include<stdlib.h>
#define MAXBIT      100
#define MAXVALUE  10000
#define MAXLEAF     30
#define MAXNODE    MAXLEAF*2 -1
typedef struct 
{
    int bit[MAXBIT];
    int start;
} HCodeType;        /* 編碼結構體 */
typedef struct
{
    int weight;
    int parent;
    int lchild;
    int rchild;
    int value;
} HNodeType;        /* 結點結構體 */
/* 構造一顆哈夫曼樹 */
void HuffmanTree (HNodeType HuffNode[MAXNODE],  int n)
{ 
    /* i、j: 迴圈變數,m1、m2:構造哈夫曼樹不同過程中兩個最小權值結點的權值,
        x1、x2:構造哈夫曼樹不同過程中兩個最小權值結點在陣列中的序號。*/
    int i, j, m1, m2, x1, x2;
    /* 初始化存放哈夫曼樹陣列 HuffNode[] 中的結點 */
    for (i=0; i<2*n-1; i++)
    {
        HuffNode[i].weight = 0;//權值 
        HuffNode[i].parent =-1;
        HuffNode[i].lchild =-1;
        HuffNode[i].rchild =-1;
        HuffNode[i].value=i; //實際值,可根據情況替換為字母  
    } /* end for */
    /* 輸入 n 個葉子結點的權值 */
    for (i=0; i<n; i++)
    {
        printf ("Please input weight of leaf node %d: \n", i);
        scanf ("%d", &HuffNode[i].weight);
    } /* end for */
    /* 迴圈構造 Huffman 樹 */
    for (i=0; i<n-1; i++)
    {
        m1=m2=MAXVALUE;     /* m1、m2中存放兩個無父結點且結點權值最小的兩個結點 */
        x1=x2=0;
        /* 找出所有結點中權值最小、無父結點的兩個結點,併合並之為一顆二叉樹 */
        for (j=0; j<n+i; j++)
        {
            if (HuffNode[j].weight < m1 && HuffNode[j].parent==-1)
            {
                m2=m1; 
                x2=x1; 
                m1=HuffNode[j].weight;
                x1=j;
            }
            else if (HuffNode[j].weight < m2 && HuffNode[j].parent==-1)
            {
                m2=HuffNode[j].weight;
                x2=j;
            }
        } /* end for */
            /* 設定找到的兩個子結點 x1、x2 的父結點資訊 */
        HuffNode[x1].parent  = n+i;
        HuffNode[x2].parent  = n+i;
        HuffNode[n+i].weight = HuffNode[x1].weight + HuffNode[x2].weight;
        HuffNode[n+i].lchild = x1;
        HuffNode[n+i].rchild = x2;
        printf ("x1.weight and x2.weight in round %d: %d, %d\n", i+1, HuffNode[x1].weight, HuffNode[x2].weight);  /* 用於測試 */
        printf ("\n");
    } /* end for */
  /*  for(i=0;i<n+2;i++)
    {
        printf(" Parents:%d,lchild:%d,rchild:%d,value:%d,weight:%d\n",HuffNode[i].parent,HuffNode[i].lchild,HuffNode[i].rchild,HuffNode[i].value,HuffNode[i].weight);
                  }*///測試 
} /* end HuffmanTree */
//解碼 
void decodeing(char string[],HNodeType Buf[],int Num)
{
  int i,tmp=0,code[1024];
  int m=2*Num-1;
  char *nump;
  char num[1024];
  for(i=0;i<strlen(string);i++)
  {
   if(string[i]=='0')
  num[i]=0;        
  else
  num[i]=1;                    
  } 
  i=0;
  nump=&num[0];
 while(nump<(&num[strlen(string)]))
 {tmp=m-1;
  while((Buf[tmp].lchild!=-1)&&(Buf[tmp].rchild!=-1))
  {
   if(*nump==0)
   {
     tmp=Buf[tmp].lchild ;          
   } 
   else tmp=Buf[tmp].rchild;
   nump++;
  } 
  printf("%d",Buf[tmp].value);                                  
 }
}
int main(void)
{
    HNodeType HuffNode[MAXNODE];            /* 定義一個結點結構體陣列 */
    HCodeType HuffCode[MAXLEAF],  cd;       /* 定義一個編碼結構體陣列, 同時定義一個臨時變數來存放求解編碼時的資訊 */
    int i, j, c, p, n;
    char pp[100];
    printf ("Please input n:\n");
    scanf ("%d", &n);
    HuffmanTree (HuffNode, n);
    for (i=0; i < n; i++)
    {
        cd.start = n-1;
        c = i;
        p = HuffNode[c].parent;
        while (p != -1)   /* 父結點存在 */
        {
            if (HuffNode[p].lchild == c)
                cd.bit[cd.start] = 0;
            else
                cd.bit[cd.start] = 1;
            cd.start--;        /* 求編碼的低一位 */
            c=p;                    
            p=HuffNode[c].parent;    /* 設定下一迴圈條件 */
        } /* end while */
        /* 儲存求出的每個葉結點的哈夫曼編碼和編碼的起始位 */
        for (j=cd.start+1; j<n; j++)
        { HuffCode[i].bit[j] = cd.bit[j];}
        HuffCode[i].start = cd.start;
    } /* end for */
    /* 輸出已儲存好的所有存在編碼的哈夫曼編碼 */
    for (i=0; i<n; i++)
    {
        printf ("%d 's Huffman code is: ", i);
        for (j=HuffCode[i].start+1; j < n; j++)
        {
            printf ("%d", HuffCode[i].bit[j]);
        }
        printf(" start:%d",HuffCode[i].start);
        printf ("\n");
    }
/*    for(i=0;i<n;i++){
    for(j=0;j<n;j++)
        {
             printf ("%d", HuffCode[i].bit[j]);           
        }
        printf("\n");
        }*/
    printf("Decoding?Please Enter code:\n");
    scanf("%s",&pp);
decodeing(pp,HuffNode,n);
    getch();
    return 0;
}