1. 程式人生 > >算法系列-複雜度分析:淺析最好、最壞、平均、均攤時間複雜度

算法系列-複雜度分析:淺析最好、最壞、平均、均攤時間複雜度

整理自極客時間-資料結構與演算法之美。原文內容更完整具體,且有音訊。購買地址:

上一節,我們講了複雜度的大 O 表示法和幾個分析技巧,還舉了一些常見覆雜度分析的例子,比如 O(1)、O(logn)、O(n)、O(nlogn) 複雜度分析。掌握了這些內容,對於複雜度分析這個知識點,你已經可以到及格線了。但是,我想你肯定不會滿足於此。

今天我會繼續給你講四個複雜度分析方面的知識點,最好情況時間複雜度(best case time complexity)、最壞情況時間複雜度(worst case time complexity)、平均情況時間複雜度(average case time complexity)、均攤時間複雜度

(amortized time complexity)。如果這幾個概念你都能掌握,那對你來說,複雜度分析這部分內容就沒什麼大問題了。

1.最好、最壞情況時間複雜度

例1:

// n 表示陣列 array 的長度
int find(int[] array, int n, int x) {
  int i = 0;
  int pos = -1;
  for (; i < n; ++i) {
    if (array[i] == x) {
       pos = i;
       break;
    }
  }
  return pos;
}

這段程式碼要實現的功能是要查詢的變數 x 可能出現在陣列的任意位置。如果陣列中第一個元素正好是要查詢的變數 x,那就不需要繼續遍歷剩下的 n-1 個數據了,那時間複雜度就是 O(1)。但如果陣列中不存在變數 x,那我們就需要把整個陣列都遍歷一遍,時間複雜度就成了 O(n)。所以,不同的情況下,這段程式碼的時間複雜度是不一樣的。

為了表示程式碼在不同情況下的不同時間複雜度,我們需要引入三個概念:最好情況時間複雜度、最壞情況時間複雜度和平均情況時間複雜度。

顧名思義最好情況時間複雜度就是,在最理想的情況下,執行這段程式碼的時間複雜度。就像我們剛剛講到的,在最理想的情況下,要查詢的變數 x 正好是陣列的第一個元素,這個時候對應的時間複雜度就是最好情況時間複雜度。

同理,最壞情況時間複雜度就是,在最糟糕的情況下,執行這段程式碼的時間複雜度。就像剛舉的那個例子,如果陣列中沒有要查詢的變數 x,我們需要把整個陣列都遍歷一遍才行,所以這種最糟糕情況下對應的時間複雜度就是最壞情況時間複雜度。

2.平均情況時間複雜度

最好情況時間複雜度和最壞情況時間複雜度對應的都是極端情況下的程式碼複雜度,發生的概率其實並不大。為了更好地表示平均情況下的複雜度,我們需要引入另一個概念:平均時間複雜度。

平均時間複雜度又該怎麼分析呢?我還是藉助剛才查詢變數 x 的例子來給你解釋。

要查詢的變數 x 在陣列中的位置,有 n+1 種情況:在陣列的 0~n-1 位置中不在陣列中。我們把每種情況下,查詢需要遍歷的元素個數累加起來,然後再除以 n+1,就可以得到需要遍歷的元素個數的平均值,即:

時間複雜度的大 O 標記法中,可以省略掉係數、低階、常量,所以,咱們把剛剛這個公式簡化之後,得到的平均時間複雜度就是 O(n)

這個結論雖然是正確的,但是計算過程稍微有點兒問題。我們剛講的這 n+1 種情況,出現的概率並不是一樣的。我帶你具體分析一下。(這裡要稍微用到一點兒概率論的知識,不過非常簡單,你不用擔心。)

我們知道,要查詢的變數 x,要麼在數組裡,要麼就不在數組裡。這兩種情況對應的概率統計起來很麻煩,為了方便你理解,我們假設在陣列中與不在陣列中的概率都為 1/2。另外,要查詢的資料出現在 0~n-1 這 n 個位置的概率也是一樣的,為 1/n。所以,根據概率乘法法則,要查詢的資料出現在 0~n-1 中任意位置的概率就是 1/(2n)。

因此,前面的推導過程中存在的最大問題就是,沒有將各種情況發生的概率考慮進去。如果我們把每種情況發生的概率也考慮進去,那平均時間複雜度的計算過程就變成了這樣:

這個值就是概率論中的加權平均值,也叫作期望值,所以平均時間複雜度的全稱應該叫加權平均時間複雜度或者期望時間複雜度

引入概率之後,前面那段程式碼的加權平均值為 (3n+1)/4。用大 O 表示法來表示,去掉係數和常量,這段程式碼的加權平均時間複雜度仍然是 O(n)。

你可能會說,平均時間複雜度分析好複雜啊,還要涉及概率論的知識。實際上,在大多數情況下,我們並不需要區分最好、最壞、平均情況時間複雜度三種情況。像我們上一節課舉的那些例子那樣,很多時候,我們使用一個複雜度就可以滿足需求了。只有同一塊程式碼在不同的情況下,時間複雜度有量級的差距,我們才會使用這三種複雜度表示法來區分。

3.均攤時間複雜度

至此,你應該已經掌握了演算法複雜度分析的大部分內容了。下面我要給你講一個更加高階的概念,均攤時間複雜度,以及它對應的分析方法,攤還分析(或者叫平攤分析)。

均攤時間複雜度,聽起來跟平均時間複雜度有點兒像。對於初學者來說,這兩個概念確實非常容易弄混。我前面說了,大部分情況下,我們並不需要區分最好、最壞、平均三種複雜度。平均複雜度只在某些特殊情況下才會用到,而均攤時間複雜度應用的場景比它更加特殊、更加有限

例子2:

 // array 表示一個長度為 n 的陣列
 // 程式碼中的 array.length 就等於 n
 int[] array = new int[n];
 int count = 0;
 
 void insert(int val) {
    if (count == array.length) {
       int sum = 0;
       for (int i = 0; i < array.length; ++i) {
          sum = sum + array[i];
       }
       array[0] = sum;
       count = 1;
    }

    array[count] = val;
    ++count;
 }

這段程式碼實現了一個往陣列中插入資料的功能。當陣列滿了之後,也就是程式碼中的 count == array.length 時,我們用 for 迴圈遍歷陣列求和,並清空陣列,將求和之後的 sum 值放到陣列的第一個位置,然後再將新的資料插入。但如果陣列一開始就有空閒空間,則直接將資料插入陣列。

先用我們剛講到的三種時間複雜度的分析方法來分析一下:
最理想的情況下,陣列中有空閒空間,我們只需要將資料插入到陣列下標為 count 的位置就可以了,所以最好情況時間複雜度為 O(1)。最壞的情況下,陣列中沒有空閒空間了,我們需要先做一次陣列的遍歷求和,然後再將資料插入,所以最壞情況時間複雜度為 O(n)。

那平均時間複雜度是多少呢?答案是 O(1)。我們還是可以通過前面講的概率論的方法來分析:
假設陣列的長度是 n,根據資料插入的位置的不同,我們可以分為 n 種情況,每種情況的時間複雜度是 O(1)。除此之外,還有一種“額外”的情況,就是在陣列沒有空閒空間時插入一個數據,這個時候的時間複雜度是 O(n)。而且,這 n+1 種情況發生的概率一樣,都是 1/(n+1)。所以,根據加權平均的計算方法,我們求得的平均時間複雜度就是:


 

但是這個例子裡的平均複雜度分析其實並不需要這麼複雜,不需要引入概率論的知識。這是為什麼呢?我們先來對比一下這個 insert() 的例子和前面那個 find() 的例子,你就會發現這兩者有很大差別。

首先,find() 函式在極端情況下,複雜度才為 O(1)。但 insert() 在大部分情況下,時間複雜度都為 O(1)。只有個別情況下,複雜度才比較高,為 O(n)。這是 insert()第一個區別於 find() 的地方。

我們再來看第二個不同的地方。對於 insert() 函式來說,O(1) 時間複雜度的插入和 O(n) 時間複雜度的插入,出現的頻率是非常有規律的,而且有一定的前後時序關係,一般都是一個 O(n) 插入之後,緊跟著 n-1 個 O(1) 的插入操作,迴圈往復。

所以,針對這樣一種特殊場景的複雜度分析,我們並不需要像之前講平均複雜度分析方法那樣,找出所有的輸入情況及相應的發生概率,然後再計算加權平均值。

針對這種特殊的場景,我們引入了一種更加簡單的分析方法:攤還分析法,通過攤還分析得到的時間複雜度我們起了一個名字,叫均攤時間複雜度

那究竟如何使用攤還分析法來分析演算法的均攤時間複雜度呢?

我們還是繼續看在陣列中插入資料的這個例子。每一次 O(n) 的插入操作,都會跟著 n-1 次 O(1) 的插入操作,所以把耗時多的那次操作均攤到接下來的 n-1 次耗時少的操作上,均攤下來,這一組連續的操作的均攤時間複雜度就是 O(1)。這就是均攤分析的大致思路。你都理解了嗎?

均攤時間複雜度和攤還分析應用場景比較特殊,所以我們並不會經常用到。為了方便你理解、記憶,我這裡簡單總結一下它們的應用場景。如果你遇到了,知道是怎麼回事兒就行了。

對一個數據結構進行一組連續操作中,大部分情況下時間複雜度都很低,只有個別情況下時間複雜度比較高,而且這些操作之間存在前後連貫的時序關係,這個時候,我們就可以將這一組操作放在一塊兒分析,看是否能將較高時間複雜度那次操作的耗時,平攤到其他那些時間複雜度比較低的操作上。而且,在能夠應用均攤時間複雜度分析的場合,一般均攤時間複雜度就等於最好情況時間複雜度。

儘管很多資料結構和演算法書籍都花了很大力氣來區分平均時間複雜度和均攤時間複雜度,但其實我個人認為,均攤時間複雜度就是一種特殊的平均時間複雜度,我們沒必要花太多精力去區分它們。你最應該掌握的是它的分析方法,攤還分析。至於分析出來的結果是叫平均還是叫均攤,這只是個說法,並不重要。

 

4.課後思考

來分析一下下面這個 add() 函式的時間複雜度。

// 全域性變數,大小為 10 的陣列 array,長度 len,下標 i。
int array[] = new int[10]; 
int len = 10;
int i = 0;

// 往陣列中新增一個元素
void add(int element) {
   if (i >= len) { // 陣列空間不夠了
     // 重新申請一個 2 倍大小的陣列空間
     int new_array[] = new int[len*2];
     // 把原來 array 陣列中的資料依次 copy 到 new_array
     for (int j = 0; j < len; ++j) {
       new_array[j] = array[j];
     }
     // new_array 複製給 array,array 現在大小就是 2 倍 len 了
     array = new_array;
     len = 2 * len;
   }
   // 將 element 放到下標為 i 的位置,下標 i 加一
   array[i] = element;
   ++i;
}

我的理解:該題和上例 例2 型別是一樣的。如果不對歡迎指正。