負載均衡配置

Nginx 的負載均衡配置如下：

http {  
    upstream cluster {  
        server a weight=4;  
        server b weight=2;  
        server c weight=1;  
    } 
    其他配置... 
    }

實現的原理

每個後端peer都有三個權重變數，先解釋下它們的含義。

(1) weight

配置檔案中指定的該後端的權重，這個值是固定不變的。

(2) effective_weight

後端的有效權重，初始值為weight。

在釋放後端時，如果發現和後端的通訊過程中發生了錯誤，就減小effective_weight。

此後有新的請求過來時，在選取後端的過程中，再逐步增加effective_weight，最終又恢復到weight。

之所以增加這個欄位，是為了當後端發生錯誤時，降低其權重。

(3) current_weight

後端目前的權重，一開始為0，之後會動態調整。那麼是怎麼個動態調整呢？

每次選取後端時，會遍歷叢集中所有後端，對於每個後端，讓它的current_weight增加它的effective_weight，

同時累加所有後端的effective_weight，儲存為total。

如果該後端的current_weight是最大的，就選定這個後端，然後把它的current_weight減去total。

如果該後端沒有被選定，那麼current_weight不用減小。

弄清了三個weight欄位的含義後，加權輪詢演算法可描述為：

1. 對於每個請求，遍歷叢集中的所有可用後端，對於每個後端peer執行：

   peer->current_weight += peer->effecitve_weight。

   同時累加所有peer的effective_weight，儲存為total。

2. 從叢集中選出current_weight最大的peer，作為本次選定的後端。

3. 對於本次選定的後端，執行：peer->current_weight -= total。

上述描述可能不太直觀，來看個例子。

現在使用以下的upstream配置塊：

upstream backend {

    server a weight=4;

    server b weight=2;

    server c weight=1;

}

按照這個配置，每7個客戶端請求中，a會被選中4次、b會被選中2次、c會被選中1次，且分佈平滑。

我們來算算看是不是這樣子的。

initial current_weight of a, b, c is { 0, 0, 0 }

通過上述過程，可得以下結論：

1. 7個請求中，a、b、c分別被選取了4、2、1次，符合它們的權重值。

2. 7個請求中，a、b、c被選取的順序為a, b, a, c, a, b, a，分佈均勻，權重大的後端a沒有被連續選取。

3. 每經過7個請求後，a、b、c的current_weight又回到初始值{ 0, 0, 0 }，因此上述流程是不斷迴圈的。

晚些再貼程式碼：待續………