客戶端負載均衡Ribbon之一：Spring Cloud Netflix負載均衡組件Ribbon介紹
Netflix:[‘netfli?ks]
ribbon：英[?r?b?n]美[?r?b?n]
n. 帶; 綬帶; （打印機的） 色帶; 帶狀物;
v. 把…撕成條帶; 用緞帶裝飾; 形成帶狀;
LB方案分類
目前主流的LB方案可分成兩類：
- 一種是集中式LB, 即在服務的消費方和提供方之間使用獨立的LB設施(可以是硬件，如F5, 也可以是軟件，如nginx), 由該設施負責把訪問請求通過某種策略轉發至服務的提供方；
- 另一種是進程內LB，將LB邏輯集成到消費方，消費方從服務註冊中心獲知有哪些地址可用，然後自己再從這些地址中選擇出一個合適的服務器。Ribbon就屬於後者，它只是一個類庫，集成於消費方進程，消費方通過它來獲取到服務提供方的地址。
Ribbon介紹
Ribbon是Netflix發布的開源項目，主要功能是提供客戶端的軟件負載均衡算法，將Netflix的中間層服務連接在一起。Ribbon客戶端組件提供一系列完善的配置項如連接超時，重試等。簡單的說，就是在配置文件中列出Load Balancer後面所有的機器，Ribbon會自動的幫助你基於某種規則（如簡單輪詢，隨即連接等）去連接這些機器。我們也很容易使用Ribbon實現自定義的負載均衡算法。
Ribbon的主要組件與工作流程
Ribbon的核心組件(均為接口類型)有以下幾個：
-
ServerList
用於獲取地址列表。它既可以是靜態的(提供一組固定的地址)，也可以是動態的(從註冊中心中定期查詢地址列表)。 -
ServerListFilter
僅當使用動態ServerList時使用，用於在原始的服務列表中使用一定策略過慮掉一部分地址。 -
IRule
選擇一個最終的服務地址作為LB結果。選擇策略有輪詢、根據響應時間加權、斷路器(當Hystrix可用時)等。
Ribbon在工作時首選會通過ServerList來獲取所有可用的服務列表，然後通過ServerListFilter過慮掉一部分地址，最後在剩下的地址中通過IRule選擇出一臺服務器作為最終結果。
與Eureka結合使用
當與Eureka組合使用Ribbon時，ServerList接口會使用DiscoveryEnabledNIWSServerList實現，該實現會通過 EurekaClient 向Eureka服務器獲取可用的服務列表。ServerListFilter默認實現為ZonePreferenceServerListFilter，其作用是過慮掉不同zone下的服務(即優先選擇同一個zone下的地址)。IRule使用ZoneAvoidanceRule實現，它是一種復合策略，同時使用ZoneAvoidancePredicate和AvailabilityPredicate來判斷是否選擇某個server，前者以一個區域為單位判斷可用性，對於不可用的區域整個丟棄，從剩下區域中選可用的server；後者用於過濾掉連接數過多和斷路器處於打開狀態的server。該復合策略經過上述兩次過慮後最終選擇出一個地址作為LB結果。
Ribbon自帶負載均衡策略比較
| 策略名 | 策略聲明 | 策略描述 | 實現說明 |
| BestAvailableRule | public class BestAvailableRule extends ClientConfigEnabledRoundRobinRule | 選擇一個最小的並發請求的server | 逐個考察Server，如果Server被tripped了，則忽略，在選擇其中ActiveRequestsCount最小的server |
| AvailabilityFilteringRule | public class AvailabilityFilteringRule extends PredicateBasedRule | 過濾掉那些因為一直連接失敗的被標記為circuit tripped的後端server，並過濾掉那些高並發的的後端server（active connections 超過配置的閾值） | 使用一個AvailabilityPredicate來包含過濾server的邏輯，其實就就是檢查status裏記錄的各個server的運行狀態 |
| WeightedResponseTimeRule | public class WeightedResponseTimeRule extends RoundRobinRule | 根據相應時間分配一個weight，相應時間越長，weight越小，被選中的可能性越低。 | 一個後臺線程定期的從status裏面讀取評價響應時間，為每個server計算一個weight。Weight的計算也比較簡單responsetime 減去每個server自己平均的responsetime是server的權重。當剛開始運行，沒有形成statas時，使用roubine策略選擇server。 |
| RetryRule | public class RetryRule extends AbstractLoadBalancerRule | 對選定的負載均衡策略機上重試機制。 | 在一個配置時間段內當選擇server不成功，則一直嘗試使用subRule的方式選擇一個可用的server |
| RoundRobinRule | public class RoundRobinRule extends AbstractLoadBalancerRule | roundRobin方式輪詢選擇server | 輪詢index，選擇index對應位置的server |
| RandomRule | public class RandomRule extends AbstractLoadBalancerRule | 隨機選擇一個server | 在index上隨機，選擇index對應位置的server |
| ZoneAvoidanceRule | public class ZoneAvoidanceRule extends PredicateBasedRule | 復合判斷server所在區域的性能和server的可用性選擇server | 使用ZoneAvoidancePredicate和AvailabilityPredicate來判斷是否選擇某個server，前一個判斷判定一個zone的運行性能是否可用，剔除不可用的zone（的所有server），AvailabilityPredicate用於過濾掉連接數過多的Server。 |
Ribbon架構圖
客戶端負載均衡Ribbon之一：Spring Cloud Netflix負載均衡組件Ribbon介紹