Redis叢集以及自動故障轉移測試

摘要： 在Redis中，與相比Sentinel（哨兵）實現的高可用，叢集（cluster）更多的是強調資料的分片或者是節點的伸縮性，如果在叢集的主節點上加入對應的從節點，叢集還可以自動故障轉移，因此相比Sentinel（哨兵）還是有不少優勢的。 以下簡單測試Redis的叢集（單機多例項的模式），來...

在Redis中，與相比Sentinel（哨兵）實現的高可用，叢集（cluster）更多的是強調資料的分片或者是節點的伸縮性，如果在叢集的主節點上加入對應的從節點，叢集還可以自動故障轉移，因此相比Sentinel（哨兵）還是有不少優勢的。

以下簡單測試Redis的叢集（單機多例項的模式），來體驗一下叢集的自動故障轉移功能，同時結合Python，來觀察自動故障轉移過程中應用程式端的表現。

redis叢集例項安裝

啟動6個redis叢集例項，叢集模式，除了正常的配置專案之外，需要在每個主節點中增加叢集配置

cluster-enabled yes　　# 開啟叢集模
cluster-node-timeout 1000# 節點超時時間，單位毫秒，設定一個較小的超時時間，目的是為了後面測試自動故障轉移的效果

分配slot & 主節點握手

主節點分配slot給主節點，三個主節點分配16383個slot

8001主----->8004從

8002主----->8005從

8003主----->8006從

#!/bin/bash
for ((i=0;i<=16383;i++))
do
if [ $i -le 5461 ]; then
　　/usr/local/redis5_1/bin/redis-cli -h 127.0.0.1 -p 8001 -a root CLUSTER ADDSLOTS $i
elif [ $i -gt 5461 ]&&[ $i -le 10922 ]; then
　　/usr/local/redis5_1/bin/redis-cli -h 127.0.0.1 -p 8002 -a root CLUSTER ADDSLOTS $i
elif [ $i -gt 10922 ]; then
　　/usr/local/redis5_1/bin/redis-cli -h 127.0.0.1 -p 8003 -a root CLUSTER ADDSLOTS $i
fi
done

分配完slot之後，在第一個主節點上執行cluster meet 127.0.0.1 8002，cluster meet 127.0.0.1 8003

無須在其他兩個主節點上meet另外兩個主節點，隨後三個主節點之間關係確定會自動確定，目前叢集中是三個主節點

新增主節點對應的從節點，需要登入到每個主節點的例項上，執行

三個從節點分別加入到主節點之後，此時6個節點全部加入到叢集中

Python連線至叢集測試

這裡需要安裝redis-py-cluster依賴包

#!/usr/bin/env python3
import time
from time import ctime,sleep
from rediscluster import StrictRedisCluster

startup_nodes = [
{"host":"111.231.253.***", "port":8001},
{"host":"111.231.253.***", "port":8002},
{"host":"111.231.253.***", "port":8003},
{"host":"111.231.253.***", "port":8004},
{"host":"111.231.253.***", "port":8005},
{"host":"111.231.253.***", "port":8006}
]
redis_conn= StrictRedisCluster(startup_nodes=startup_nodes, decode_responses=True,password="root")

for i in range(0, 100000):
try:
redis_conn.set('name' + str(i), str(i))
print('setting name' + str(i) +"--->" + time.strftime('%Y-%m-%d %H:%M:%S',time.localtime(time.time())))
except:
print("connect to redis cluster error")
time.sleep(2)

執行上述寫入測試指令碼之後，資料基本上均勻地落在三個節點上

自動故障轉移測試

修改Python指令碼，每隔1s寫入一條資料，目的是便於觀察在主節點宕機，叢集自動故障轉移這個時間段之之內（1s鐘左右），對於應用程式的影響，或者說應用程式在自動故障轉移前後的表現。

如下指令碼迴圈往Redis叢集中寫入資料，執行期間，強制殺掉一個主節點，觀察應用程式連線情況。

同時，如果發生異常，暫停應用程式2s，因為上面一開始配置的叢集故障轉移時間是1s，如果應用程式暫停2s，完全可以跳過故障轉移的過程，

當故障轉移完成之後，應用程式又恢復成正常狀態，雖然8001節點宕機，應用程式繼續連線8001節點，但是應用程式完全無感知。

import time
from time import ctime,sleep
from rediscluster import StrictRedisCluster

startup_nodes = [
{"host":"111.231.253.***", "port":8001},
{"host":"111.231.253.***", "port":8002},
{"host":"111.231.253.***", "port":8003},
{"host":"111.231.253.***", "port":8004},
{"host":"111.231.253.***", "port":8005},
{"host":"111.231.253.***", "port":8006}
]
redis_conn= StrictRedisCluster(startup_nodes=startup_nodes, decode_responses=True,password="root")

for i in range(0, 100000):
try:
redis_conn.set('name' + str(i), str(i))
print('setting name' + str(i) +"--->" + time.strftime('%Y-%m-%d %H:%M:%S',time.localtime(time.time())))
time.sleep(1)
except:
print("connect to redis cluster error")
time.sleep(2)

發現在殺掉主節點之後，僅發生了一次連線錯誤，隨後因為Redis叢集的自動故障轉移成功，對應於程式來說是透明的，因此應用程式隨後正常工作，不受其中一個主節點宕機的影響。

叢集此時的狀態，8001節點宕機，明顯，8001對應的從節點8004接管主節點，升級為master，對外提供服務

觀察升級為主節點的8004例項日誌，會發現在強制殺掉原8001主節點之後，1秒鐘之內，成功替代8001升級為master節點

如果在故障轉移的過程中，沒有應用程式訪問Redis，應用程式甚至完全不知道Redis叢集發生了故障轉移，只要不發生叢集中某一個節點的主從節點同時宕機，整個叢集就沒有問題，且對應用程式完全透明。

隨後重啟宕機的8001節點，會發現8001節點自動變為其原從節點（8004）的從節點

整體上來看，Redis叢集的配置和使用以及自動故障轉移還是比較簡單易容的，這裡沒有用redis-trib.rb 而是採用手動分配slot和建立叢集的方式，目的是瞭解完整的配置流程。

需要注意的是：

1，如果開啟了密碼驗證模式，所有的主從節點必須配置masterauth，因為某一個節點宕機重啟之後，會自動變為從節點，此時如果想要從master複製資料，就必須需要主節點的密碼

2，StrictRedisCluster決定了所有主從節點的密碼必須要是一樣的。

表面上看Redis叢集簡單易用，自動故障轉移是沒有問題的，保證了高可用，看似沒有問題。

如果細想，這個過程還是有問題的，有沒有發現，雖然故障轉移保證了高可用，但是當從節點升級為主節點之後，如果保證升級為主節點的從節點（8004）一定能夠完全複製原主節點（8001）上的資料？

這個就類似於MySQL的半同步複製，主節點上的資料，一定要同步（雖然是relaylog）到從節點，主節點才會提交。

不過回頭想想，取決於如何去對待Redis或者怎麼使用Redis，Redis更多的時候是作為一個快取使用，而不是落地的資料庫，既然是快取，就應該更多地去考慮效能。