2. 程式人生 > >Redis之集群環境搭建

Redis之集群環境搭建

阿新 • • 發佈：2019-02-14
優勢 3.1 alt 準備 head 各版本 rdb message download

前面文章介紹了Redis的主從復制，雖然該模式能夠在一定程度上提高系統的穩定性，但是在數據訪問量比較大的情況下，單個master應付起來還是比較吃力的，這時我們可以考慮將redis集群部署，本文就來重點給大家介紹下Redis的集群部署操作。

Redis之主從復制2
Redis之主從復制1

Redis集群

一、Redis集群相關概念

1.Redis集群介紹

Redis 集群是一個提供在多個Redis間節點間共享數據的程序集。

Redis集群並不支持處理多個keys的命令,因為這需要在不同的節點間移動數據,從而達不到像Redis那樣的性能,在高負載的情況下可能會導致不可預料的錯誤.

Redis 集群通過分區

來提供一定程度的可用性,在實際環境中當某個節點宕機或者不可達的情況下繼續處理命令. Redis 集群的優勢:

1.自動分割數據到不同的節點上。
>2.整個集群的部分節點失敗或者不可達的情況下能夠繼續處理命令。

2.Redis分片策略

Redis 集群沒有使用一致性hash, 而是引入了 哈希槽的概念.

Redis 集群有==16384==個哈希槽,每個key通過CRC16校驗後對16384取模來決定放置哪個槽.集群的每個節點負責一部分hash槽,舉個例子,比如當前集群有3個節點,那麽:

節點 A 包含 0 到 5500號哈希槽.
節點 B 包含5501 到 11000 號哈希槽.
節點 C 包含11001 到 16384號哈希槽.

這種結構很容易添加或者刪除節點. 比如如果我想新添加個節點D, 我需要從節點 A, B, C中得部分槽到D上. 如果我想移除節點A,需要將A中的槽移到B和C節點上,然後將沒有任何槽的A節點從集群中移除即可. 由於從一個節點將哈希槽移動到另一個節點並不會停止服務,所以無論添加刪除或者改變某個節點的哈希槽的數量都不會造成集群不可用的狀態.

3.Redis的主從復制模型

為了使在部分節點失敗或者大部分節點無法通信的情況下集群仍然可用，所以集群使用了主從復制模型,每個節點都會有N-1個復制品.

在我們例子中具有A，B，C三個節點的集群,在沒有復制模型的情況下,如果節點B失敗了，那麽整個集群就會以為缺少5501-11000這個範圍的槽而不可用.

然而如果在集群創建的時候（或者過一段時間）我們為每個節點添加一個從節點A1，B1，C1,那麽整個集群便有三個master節點和三個slave節點組成，這樣在節點B失敗後，集群便會選舉B1為新的主節點繼續服務，整個集群便不會因為槽找不到而不可用了

不過當B和B1 都失敗後，集群是不可用的.
技術分享圖片

二、Redis集群搭建

1.集群的結構

根據官網描述要讓redis集群環境正常運行我們必須準備至少3個主節點，所以在本文中的集群環境我們準備3個主節點實例及對應的給每個主節點準備一個從節點實例，一共6個redis實例。正常需要6個虛擬機節點，本文我們在一個虛擬機上模擬。

2.集群的環境準備

搭建集群需要使用到官方提供的ruby腳本。
需要安裝ruby的環境。

安裝ruby

yum -y install ruby
yum -y install rubygems
gem install redis

錯誤處理

[root@hadoop-node01 src]# gem install redis
ERROR:  Error installing redis:
    redis requires Ruby version >= 2.2.2.

解決方式參考此鏈接:https://blog.csdn.net/qq_38526573/article/details/87220510

解決完成後再次執行gem install redis命令

[root@hadoop-node01 ~]# gem install redis
Fetching: redis-4.1.0.gem (100%)
Successfully installed redis-4.1.0
Parsing documentation for redis-4.1.0
Installing ri documentation for redis-4.1.0
Done installing documentation for redis after 1 seconds
1 gem installed

註意ruby對應的redis版本是4.1.0
各版本下載地址
http://download.redis.io/releases/

3.搭建集群環境

3.1創建實例

在/opt目錄下創建redis-cluster目錄，並在該目錄下創建6個redis實例
技術分享圖片技術分享圖片

3.2修改配置文件

分別修改6個實例的配置文件

1.修改端口號

技術分享圖片

2.打開cluster-enable前面的註釋

技術分享圖片

3.註釋掉綁定ip

技術分享圖片

4.保護模式修改為no

技術分享圖片

5.設置日誌存儲路徑

技術分享圖片
註意重復修改6次。

3.3復制ruby腳本

技術分享圖片

3.4啟動6個實例

啟動實例時可能報錯

Ps: [ERR] Node 172.168.63.202:7001 is not empty. Either the nodealready knows other nodes (check with CLUSTER NODES) or contains some

解決辦法：
將每個節點下aof、rdb、nodes.conf本地備份文件刪除；

編寫簡單腳本啟動
start-all.sh

cd /opt/redis-cluster/redis7001
rm -rf dump.rdb nodes.conf appendonly.aof
src/redis-server redis.conf

cd /opt/redis-cluster/redis7002
rm -rf dump.rdb nodes.conf appendonly.aof
src/redis-server redis.conf

cd /opt/redis-cluster/redis7003
rm -rf dump.rdb nodes.conf appendonly.aof
src/redis-server redis.conf

cd /opt/redis-cluster/redis7004
rm -rf dump.rdb nodes.conf appendonly.aof
src/redis-server redis.conf

cd /opt/redis-cluster/redis7005
rm -rf dump.rdb nodes.conf appendonly.aof
src/redis-server redis.conf

cd /opt/redis-cluster/redis7006
rm -rf dump.rdb nodes.conf appendonly.aof
src/redis-server redis.conf

改變文件腳本權限模式:
chmod 777 start-all.sh
然後再啟動:
./start-all.sh

3.5創建集群

現在我們已經有了六個正在運行中的 Redis 實例， 接下來我們需要使用這些實例來創建集群， 並為每個節點編寫配置文件。

通過使用 Redis 集群命令行工具 redis-trib ， 編寫節點配置文件的工作可以非常容易地完成： redis-trib 位於 Redis 源碼的 src 文件夾中， 它是一個 Ruby 程序， 這個程序通過向實例發送特殊命令來完成創建新集群， 檢查集群， 或者對集群進行重新分片（reshared）等工作

./redis-trib.rb create --replicas 1 192.168.88.121:7001 192.168.88.121:7002 192.168.88.121:7003 192.168.88.121:7004 192.168.88.121:7005 192.168.88.121:7006

命令說明
選項–replicas 1 表示我們希望為集群中的每個主節點創建一個從節點
之後跟著的其他參數則是這個集群實例的地址列表,3個master3個slave
redis-trib 會打印出一份預想中的配置給你看， 如果你覺得沒問題的話， 就可以輸入 ==yes==， redis-trib 就會將這份配置應用到集群當中,讓各個節點開始互相通訊,最後可以得到如下信息：

[root@hadoop-node01 redis-cluster]# ./redis-trib.rb create --replicas 1 192.168.88.121:7001
 192.168.88.121:7002 192.168.88.121:7003 192.168.88.121:7004 192.168.88.121:7005 192.168>>> Creating cluster
Invalid IP or Port (given as 192.168) - use IP:Port format
[root@hadoop-node01 redis-cluster]# ./redis-trib.rb create --replicas 1 192.168.88.121:7001
 192.168.88.121:7002 192.168.88.121:7003 192.168.88.121:7004 192.168.88.121:7005 192.168.88.121:7006>>> Creating cluster
>>> Performing hash slots allocation on 6 nodes...
Using 3 masters:
192.168.88.121:7001
192.168.88.121:7002
192.168.88.121:7003
Adding replica 192.168.88.121:7005 to 192.168.88.121:7001
Adding replica 192.168.88.121:7006 to 192.168.88.121:7002
Adding replica 192.168.88.121:7004 to 192.168.88.121:7003
>>> Trying to optimize slaves allocation for anti-affinity
[WARNING] Some slaves are in the same host as their master
M: f97aa0b15e5a7f51c69f26543e7b785d52479afe 192.168.88.121:7001
   slots:0-5460 (5461 slots) master
M: 8e4a66caac1f738e9d951d212a5ba2a00e675acd 192.168.88.121:7002
   slots:5461-10922 (5462 slots) master
M: 1528779486cb926b11cb996c5682c6b749d26bc1 192.168.88.121:7003
   slots:10923-16383 (5461 slots) master
S: ea08ca738d621c5161a0ecfe838ed8fd89f5c0c5 192.168.88.121:7004
   replicates 8e4a66caac1f738e9d951d212a5ba2a00e675acd
S: 0ac234a10f28e24173ffc4e686073fa7710dd264 192.168.88.121:7005
   replicates 1528779486cb926b11cb996c5682c6b749d26bc1
S: d560e0e3da9a715fb4aae5910cf5533cec2f815f 192.168.88.121:7006
   replicates f97aa0b15e5a7f51c69f26543e7b785d52479afe
Can I set the above configuration? (type 'yes' to accept): yes
>>> Nodes configuration updated
>>> Assign a different config epoch to each node
>>> Sending CLUSTER MEET messages to join the cluster
Waiting for the cluster to join......
>>> Performing Cluster Check (using node 192.168.88.121:7001)
M: f97aa0b15e5a7f51c69f26543e7b785d52479afe 192.168.88.121:7001
   slots:0-5460 (5461 slots) master
   1 additional replica(s)
S: d560e0e3da9a715fb4aae5910cf5533cec2f815f 192.168.88.121:7006
   slots: (0 slots) slave
   replicates f97aa0b15e5a7f51c69f26543e7b785d52479afe
M: 1528779486cb926b11cb996c5682c6b749d26bc1 192.168.88.121:7003
   slots:10923-16383 (5461 slots) master
   1 additional replica(s)
M: 8e4a66caac1f738e9d951d212a5ba2a00e675acd 192.168.88.121:7002
   slots:5461-10922 (5462 slots) master
   1 additional replica(s)
S: 0ac234a10f28e24173ffc4e686073fa7710dd264 192.168.88.121:7005
   slots: (0 slots) slave
   replicates 1528779486cb926b11cb996c5682c6b749d26bc1
S: ea08ca738d621c5161a0ecfe838ed8fd89f5c0c5 192.168.88.121:7004
   slots: (0 slots) slave
   replicates 8e4a66caac1f738e9d951d212a5ba2a00e675acd
[OK] All nodes agree about slots configuration.
>>> Check for open slots...
>>> Check slots coverage...
[OK] All 16384 slots covered.

技術分享圖片

這表示集群中的 16384 個槽都有至少一個主節點在處理， 集群運作正常。
技術分享圖片

4.測試集群

登錄命令

redis7001/src/redis-cli -h 192.168.88.121 -p 7001 -c

技術分享圖片添加一個key被分配到7002節點上，註意連接的端口變為了7002。

5.查看集群環境

命令 說明
cluster info 打印集群的信息
cluster nodes 列出集群當前已知的所有節點（ node），以及這些節點的相關信息。節點
cluster meet <ip> <port> 將 ip 和 port 所指定的節點添加到集群當中，讓它成為集群的一份子。
cluster forget 從集群中移除 node_id 指定的節點。
cluster replicate 將當前節點設置為 node_id 指定的節點的從節點。
cluster saveconfig 將節點的配置文件保存到硬盤裏面。槽(slot)
cluster addslots
<slot> [slot ...]		 將一個或多個槽（ slot）指派（ assign）給當前節點。
cluster delslots
<slot> [slot ...]		 移除一個或多個槽對當前節點的指派。
cluster flushslots 移除指派給當前節點的所有槽，讓當前節點變成一個沒有指派任何槽的節點。
cluster setslot
<slot> node <node_id>		 將槽 slot 指派給 node_id 指定的節點，如果槽已經指派給另一個節點，那麽先讓另一個節點刪除該槽>，然後再進行指派。
cluster setslot
<slot> migrating <node_id>		 將本節點的槽 slot 遷移到 node_id 指定的節點中。
cluster setslot
<slot> importing <node_id>		 從 node_id 指定的節點中導入槽 slot 到本節點。
cluster setslot <slot> stable 取消對槽 slot 的導入（ import）或者遷移（ migrate）。鍵
cluster keyslot <key> 計算鍵 key 應該被放置在哪個槽上。
cluster countkeysinslot
<slot>		 返回槽 slot 目前包含的鍵值對數量。
cluster getkeysinslot
<slot> <count>		 返回 count 個 slot 槽中的鍵

cluster info命令

技術分享圖片

cluster nodes

技術分享圖片

6.增加節點

添加新的節點的基本過程就是添加一個空的節點然後移動一些數據給它，有兩種情況，添加一個主節點和添加一個從節點（添加從節點時需要將這個新的節點設置為集群中某個節點的復制）
添加一個新的實例
啟動新的7007節點,使用的配置文件和以前的一樣,只要把端口號改一下即可，過程如下:

在終端打開一個新的標簽頁.
進入redis-cluster 目錄.
復制並進入redis7007文件夾.
和其他節點一樣，創建redis.conf文件,需要將端口號改成7007.
最後啟動節點 ../redis-server ./redis.conf
如果正常的話，節點會正確的啟動.
技術分享圖片

1.添加主節點

./redis-trib.rb add-node 192.168.88.121:7007 192.168.88.121:7001

第一個參數是新節點的地址，第二個參數是任意一個已經存在的節點的IP和端口
技術分享圖片
技術分享圖片
新節點現在已經連接上了集群， 成為集群的一份子， 並且可以對客戶端的命令請求進行轉向了， 但是和其他主節點相比， 新節點還有兩點區別：

  1. 新節點沒有包含任何數據， 因為它沒有包含任何哈希槽.
  2. 盡管新節點沒有包含任何哈希槽， 但它仍然是一個主節點， 所以在集群需要將某個從節點升級為新的主節點時， 這個新節點不會被選中。

接下來， 只要使用 redis-trib 程序， 將集群中的某些哈希桶移動到新節點裏面， 新節點就會成為真正的主節點了。

重新分配slot

./redis-trib.rb reshard 192.168.88.121:7001

只需要指定集群中其中一個節點的地址， redis-trib 就會自動找到集群中的其他節點
技術分享圖片
技術分享圖片7007節點被分類slot，成了真正意義上的主節點

2.添加從節點

添加的從節點被隨機的配置任意的主節點

./redis-trib.rb add-node --slave 192.168.88.121:7008 192.168.88.121:7001

將從節點添加給指定的主節點

./redis-trib.rb add-node --slave --master-id 3c3a0c74aae0b56170ccb03a76b60cfe7dc1912e 127.0.0.1:7006 127.0.0.1:7000

7.刪除節點

使用del-node命令移除節點。

./redis-trib.rb del-node 192.168.2.11:7007 <node-id>

第一個參數：任意集群中現有的地址192.168.88.121:7001
第二個參數：你想移除的節點id ab853f5e95f1e32e0ee40543a9687d60fc3bd941 （該id可以在想要移除的節點nodes.conf文件中找到）

關閉redis

redis7001/redis-cli -p 7001 shutdown
./redis-cli shutdown
pkill -9 redis-server –關閉所有的redis服務

~好了redis的集群操作就介紹到此，
更多內容可以查看官網手冊:http://www.redis.cn/documentation.html

Redis之集群環境搭建

相關推薦

Redis之集群環境搭建

優勢 3.1 alt 準備 head 各版本 rdb message download 前面文章介紹了Redis的主從復制，雖然該模式能夠在一定程度上提高系統的穩定性，但是在數據訪問量比較大的情況下，單個master應付起來還是比較吃力的，這時我們可以考慮將redis集群部

項目進階 之 集群環境搭建（一）概述

問題 特點 多臺 cpu 好的 content 成了 系統資源 通過 今天我們說一個不是特別新，但近期今年伴隨大數據熱而比較火的一個技術-集群技術。 什麽是集群技術 集群（Cluster）技術是指一組相互犭蟲立的計算機，利用快速通信網絡組

2.Redis集群環境搭建

lin nal all 添加 cli .tar.gz 嘗試 工作 require 轉載請出自出處:http://www.cnblogs.com/hd3013779515/ 一、基本概念 1、redis集群是一個可以在多個節點之間進行數據共享的設施。redis集群提供了以下兩

redis集群環境搭建的錯誤

備份文件 ref cin strong 需求 ucc 提示 blog native 安裝redis集群需要版本號在3.0以上 redis-cluster安裝前需要安裝ruby環境 搭建集群需要使用到官方提供的ruby腳本。 需要安裝ruby的環境。 yum -y insta

Redis筆記整理（二）：Java API使用與Redis分布式集群環境搭建

數據庫 NoSQL Redis [TOC] Redis筆記整理（二）：Java API使用與Redis分布式集群環境搭建 Redis Java API使用（一）：單機版本Redis API使用 Redis的Java API通過Jedis來進行操作，因此首先需要Jedis的第三方庫，因為使用的是M

Redis集群環境搭建（實驗）

redis集群部署 redis集群搭建 redis集群配置 環境信息： 集群中至少有奇數個主節點，所以至少三個主節點， 每個節點至少一個備份節點，所以共6個節點（master和slave各3個） 節點信息： （我這裏準備了3臺主機，每臺主機運行一個master和一個slave）

11.SolrCloud集群環境搭建

nfa $path img ctu tip profile lean without adding 轉載請出自出處:http://www.cnblogs.com/hd3013779515/ 我們基於Solr4.10.3版本進行安裝配置SolrCloud集群，通過實踐來實現索

redis之 集群配置（主從復制）

端口 cnblogs pid 分享 必須 服務器配置 主服務器 一個 cat 集群的作用： 　　 集群的方式有二種： 　　第二種的好處是：master宕機以後可以直接切換到slave1 主從通信的過程 　　先通過dump導出大塊的rdb 然後把aof緩沖過來，然後通過

Ubuntu下kafka集群環境搭建及測試

delet 指定 文件中 新增 img --delete replicat pro alt 1，解壓 root@Ubuntu-1:/usr/local# tar zxvf kafka_2.11-0.8.2.2.tgz 2，重命名 root@Ubuntu-1:/usr/

solr集群環境搭建

java_opts 端口修改 home 復制 報錯 目錄 進行 mage cli Solr集群環境搭建 集群所需安裝包 1. 在本地電腦的將以下安裝包上傳到共享目錄中。 solr-4.10.3.tgz.tgz和apache-tomcat-7.0.47.tar.gz 、j

ZooKeeper偽集群環境搭建

val exp war spa statistic style cal post server 1.從官網下載程序包。 2.解壓。 [dev@localhost

Hadoop分布式集群環境搭建

Hadoop 搭建分布式集群環境 MapReduce YARN HDFS 分布式環境搭建之環境介紹 之前我們已經介紹了如何在單機上搭建偽分布式的Hadoop環境，而在實際情況中，肯定都是多機器多節點的分布式集群環境，所以本文將簡單介紹一下如何在多臺機器上搭建Hadoop的分布式環境。 我這

Kubernetes1.10HA高可用集群環境搭建

kubernetes k8s k8s 高可用2個核心 apiserver master 和 etcdetcd：（需高可用）集群的數據中心，用於存放集群的配置以及狀態信息，非常重要，如果數據丟失那麽集群將無法恢復；因此高可用集群部署首先就是etcd是高可用集群；Apiserver：提供了資源操作的唯一入

Linux環境下SolrCloud集群環境搭建關鍵步驟

loser org 環境搭建 歷史版本 solrcloud 節點 上傳 solr p s Linux環境下SolrCloud集群環境搭建關鍵步驟。 前提條件：已經完成ZooKeeper集群環境搭建。 一、下載介質 官網下載地址：http://www.apache.org

Kafka：ZK+Kafka+Spark Streaming集群環境搭建（三）安裝spark2.2.1

node word clas 執行 選擇 dir clust 用戶名 uil 如何配置centos虛擬機請參考《Kafka：ZK+Kafka+Spark Streaming集群環境搭建（一）VMW安裝四臺CentOS，並實現本機與它們能交互，虛擬機內部實現可以上網。》 如

Kafka：ZK+Kafka+Spark Streaming集群環境搭建（九）安裝kafka_2.11-1.1.0

itl CA blog tor line cat pre PE atan 如何搭建配置centos虛擬機請參考《Kafka：ZK+Kafka+Spark Streaming集群環境搭建（一）VMW安裝四臺CentOS，並實現本機與它們能交互，虛擬機內部實現可以上網。》 如

Kafka：ZK+Kafka+Spark Streaming集群環境搭建（二）VMW安裝四臺CentOS，並實現本機與它們能交互，虛擬機內部實現可以上網。

centos 失敗 sco pan html top n 而且 div href Centos7出現異常：Failed to start LSB: Bring up/down networking. 按照《Kafka：ZK+Kafka+Spark Streaming集群環

Kafka：ZK+Kafka+Spark Streaming集群環境搭建（十三）定義一個avro schema使用comsumer發送avro字符流，producer接受avro字符流並解析

finall ges records ring ack i++ 一個 lan cde 參考《在Kafka中使用Avro編碼消息：Consumer篇》、《在Kafka中使用Avro編碼消息：Producter篇》 pom.xml <depende

Kafka：ZK+Kafka+Spark Streaming集群環境搭建（十七）待整理

lan post -a 客戶端 客戶 struct bsp www get redis按照正則批量刪除key redis客戶端--jedis 在Spark結構化流readStream、writeStream 輸入輸出，及過程ETL Spark Structur

Kafka：ZK+Kafka+Spark Streaming集群環境搭建（十九）待整理

set dstream 搭建 details 編程指南 .com .cn csdn read redis按照正則批量刪除key redis客戶端--jedis 在Spark結構化流readStream、writeStream 輸入輸出，及過程ETL Spark St