1. 程式人生 > >Mongodb叢集搭建的三種方式

Mongodb叢集搭建的三種方式

       Mongodb是時下流行的NoSql資料庫,它的儲存方式是文件式儲存,並不是Key-Value形式。關於Mongodb的特點,這裡就不多介紹了,大家可以去看看官方說明:http://docs.mongodb.org/manual/

       今天主要來說說Mongodb的三種叢集方式的搭建:Replica Set / Sharding / Master-Slaver。這裡只說明最簡單的叢集搭建方式(生產環境),如果有多個節點可以此類推或者檢視官方文件。OS是Ubuntu_x64系統,客戶端用的是Java客戶端。Mongodb版本是mongodb-linux-x86_64-2.2.2.tgz

Replica Set

       中文翻譯叫做副本集,不過我並不喜歡把英文翻譯成中文,總是感覺怪怪的。其實簡單來說就是叢集當中包含了多份資料,保證主節點掛掉了,備節點能繼續提供資料服務,提供的前提就是資料需要和主節點一致。如下圖:

       Mongodb(M)表示主節點,Mongodb(S)表示備節點,Mongodb(A)表示仲裁節點。主備節點儲存資料,仲裁節點不儲存資料。客戶端同時連線主節點與備節點,不連線仲裁節點。

       預設設定下,主節點提供所有增刪查改服務,備節點不提供任何服務。但是可以通過設定使備節點提供查詢服務,這樣就可以減少主節點的壓力,當客戶端進行資料查詢時,請求自動轉到備節點上。這個設定叫做

Read Preference Modes,同時Java客戶端提供了簡單的配置方式,可以不必直接對資料庫進行操作。

       仲裁節點是一種特殊的節點,它本身並不儲存資料,主要的作用是決定哪一個備節點在主節點掛掉之後提升為主節點,所以客戶端不需要連線此節點。這裡雖然只有一個備節點,但是仍然需要一個仲裁節點來提升備節點級別。我開始也不相信必須要有仲裁節點,但是自己也試過沒仲裁節點的話,主節點掛了備節點還是備節點,所以咱們還是需要它的。

介紹完了叢集方案,那麼現在就開始搭建了。

1.建立資料資料夾

一般情況下不會把資料目錄建立在mongodb的解壓目錄下,不過這裡方便起見,就建在mongodb解壓目錄下吧。

mkdir -p /mongodb/data/master 
mkdir -p /mongodb/data/slaver 
mkdir -p /mongodb/data/arbiter  
#三個目錄分別對應主,備,仲裁節點

2.建立配置檔案

由於配置比較多,所以我們將配置寫到檔案裡。

#master.conf
dbpath=/mongodb/data/master
logpath=/mongodb/log/master.log
pidfilepath=/mongodb/master.pid
directoryperdb=true
logappend=true
replSet=testrs
bind_ip=10.10.148.130
port=27017
oplogSize=10000
fork=true
noprealloc=true
#slaver.conf
dbpath=/mongodb/data/slaver
logpath=/mongodb/log/slaver.log
pidfilepath=/mongodb/slaver.pid
directoryperdb=true
logappend=true
replSet=testrs
bind_ip=10.10.148.131
port=27017
oplogSize=10000
fork=true
noprealloc=true
#arbiter.conf
dbpath=/mongodb/data/arbiter
logpath=/mongodb/log/arbiter.log
pidfilepath=/mongodb/arbiter.pid
directoryperdb=true
logappend=true
replSet=testrs
bind_ip=10.10.148.132
port=27017
oplogSize=10000
fork=true
noprealloc=true
引數解釋:

dbpath:資料存放目錄

logpath:日誌存放路徑

pidfilepath:程序檔案,方便停止mongodb

directoryperdb:為每一個數據庫按照資料庫名建立資料夾存放

logappend:以追加的方式記錄日誌

replSet:replica set的名字

bind_ip:mongodb所繫結的ip地址

port:mongodb程序所使用的埠號,預設為27017

oplogSize:mongodb操作日誌檔案的最大大小。單位為Mb,預設為硬碟剩餘空間的5%

fork:以後臺方式執行程序

noprealloc:不預先分配儲存

3.啟動mongodb

進入每個mongodb節點的bin目錄下

./monood -f master.conf
./mongod -f slaver.conf
./mongod -f arbiter.conf

注意配置檔案的路徑一定要保證正確,可以是相對路徑也可以是絕對路徑。

4.配置主,備,仲裁節點

可以通過客戶端連線mongodb,也可以直接在三個節點中選擇一個連線mongodb。

./mongo 10.10.148.130:27017   #ip和port是某個節點的地址
>use admin
>cfg={ _id:"testrs", members:[ {_id:0,host:'10.10.148.130:27017',priority:2}, {_id:1,host:'10.10.148.131:27017',priority:1}, 
{_id:2,host:'10.10.148.132:27017',arbiterOnly:true}] };
>rs.initiate(cfg)             #使配置生效
       cfg是可以任意的名字,當然最好不要是mongodb的關鍵字,conf,config都可以。最外層的_id表示replica set的名字,members裡包含的是所有節點的地址以及優先順序。優先順序最高的即成為主節點,即這裡的10.10.148.130:27017。特別注意的是,對於仲裁節點,需要有個特別的配置——arbiterOnly:true。這個千萬不能少了,不然主備模式就不能生效。

      配置的生效時間根據不同的機器配置會有長有短,配置不錯的話基本上十幾秒內就能生效,有的配置需要一兩分鐘。如果生效了,執行rs.status()命令會看到如下資訊:

{
        "set" : "testrs",
        "date" : ISODate("2013-01-05T02:44:43Z"),
        "myState" : 1,
        "members" : [
                {
                        "_id" : 0,
                        "name" : "10.10.148.130:27017",
                        "health" : 1,
                        "state" : 1,
                        "stateStr" : "PRIMARY",
                        "uptime" : 200,
                        "optime" : Timestamp(1357285565000, 1),
                        "optimeDate" : ISODate("2013-01-04T07:46:05Z"),
                        "self" : true
                },
                {
                        "_id" : 1,
                        "name" : "10.10.148.131:27017",
                        "health" : 1,
                        "state" : 2,
                        "stateStr" : "SECONDARY",
                        "uptime" : 200,
                        "optime" : Timestamp(1357285565000, 1),
                        "optimeDate" : ISODate("2013-01-04T07:46:05Z"),
                        "lastHeartbeat" : ISODate("2013-01-05T02:44:42Z"),
                        "pingMs" : 0
                },
                {
                        "_id" : 2,
                        "name" : "10.10.148.132:27017",
                        "health" : 1,
                        "state" : 7,
                        "stateStr" : "ARBITER",
                        "uptime" : 200,
                        "lastHeartbeat" : ISODate("2013-01-05T02:44:42Z"),
                        "pingMs" : 0
                }
        ],
        "ok" : 1
}
如果配置正在生效,其中會包含如下資訊:
"stateStr" : "RECOVERING"

同時可以檢視對應節點的日誌,發現正在等待別的節點生效或者正在分配資料檔案。

       現在基本上已經完成了叢集的所有搭建工作。至於測試工作,可以留給大家自己試試。一個是往主節點插入資料,能從備節點查到之前插入的資料(查詢備節點可能會遇到某個問題,可以自己去網上查檢視)。二是停掉主節點,備節點能變成主節點提供服務。三是恢復主節點,備節點也能恢復其備的角色,而不是繼續充當主的角色。二和三都可以通過rs.status()命令實時檢視叢集的變化。

Sharding

和Replica Set類似,都需要一個仲裁節點,但是Sharding還需要配置節點和路由節點。就三種叢集搭建方式來說,這種是最複雜的。部署圖如下:


1.啟動資料節點

./mongod --fork --dbpath ../data/set1/ --logpath ../log/set1.log --replSet test #192.168.4.43
./mongod --fork --dbpath ../data/set2/ --logpath ../log/set2.log --replSet test #192.168.4.44
./mongod --fork --dbpath ../data/set3/ --logpath ../log/set3.log --replSet test #192.168.4.45 決策 不儲存資料

2.啟動配置節點
./mongod --configsvr --dbpath ../config/set1/ --port 20001 --fork --logpath ../log/conf1.log #192.168.4.30
./mongod --configsvr --dbpath ../config/set2/ --port 20002 --fork --logpath ../log/conf2.log #192.168.4.31

3.啟動路由節點
./mongos --configdb 192.168.4.30:20001,192.168.4.31:20002 --port 27017 --fork --logpath ../log/root.log #192.168.4.29

       這裡我們沒有用配置檔案的方式啟動,其中的引數意義大家應該都明白。一般來說一個數據節點對應一個配置節點,仲裁節點則不需要對應的配置節點。注意在啟動路由節點時,要將配置節點地址寫入到啟動命令裡。

4.配置Replica Set

       這裡可能會有點奇怪為什麼Sharding會需要配置Replica Set。其實想想也能明白,多個節點的資料肯定是相關聯的,如果不配一個Replica Set,怎麼標識是同一個叢集的呢。這也是人家mongodb的規定,咱們還是遵守吧。配置方式和之前所說的一樣,定一個cfg,然後初始化配置。

./mongo 192.168.4.43:27017   #ip和port是某個節點的地址
>use admin
>cfg={ _id:"testrs", members:[ {_id:0,host:'192.168.4.43:27017',priority:2}, {_id:1,host:'192.168.4.44:27017',priority:1}, 
{_id:2,host:'192.168.4.45:27017',arbiterOnly:true}] };
>rs.initiate(cfg)             #使配置生效

5.配置Sharding

./mongo 192.168.4.29:27017   #這裡必須連線路由節點
>sh.addShard("test/192.168.4.43:27017") #test表示replica set的名字 當把主節點新增到shard以後,會自動找到set裡的主,備,決策節點
>db.runCommand({enableSharding:"diameter_test"})    #diameter_test is database name
>db.runCommand( { shardCollection: "diameter_test.dcca_dccr_test",key:{"__avpSessionId":1}}) 
       第一個命令很容易理解,第二個命令是對需要進行Sharding的資料庫進行配置,第三個命令是對需要進行Sharding的Collection進行配置,這裡的dcca_dccr_test即為Collection的名字。另外還有個key,這個是比較關鍵的東西,對於查詢效率會有很大的影響,具體可以檢視Shard Key Overview

       到這裡Sharding也已經搭建完成了,以上只是最簡單的搭建方式,其中某些配置仍然使用的是預設配置。如果設定不當,會導致效率異常低下,所以建議大家多看看官方文件再進行預設配置的修改。

Master-Slaver

這個是最簡答的叢集搭建,不過準確說也不能算是叢集,只能說是主備。並且官方已經不推薦這種方式,所以在這裡只是簡單的介紹下吧,搭建方式也相對簡單。

./mongod --master --dbpath /data/masterdb/      #主節點

./mongod --slave --source <masterip:masterport> --dbpath /data/slavedb/     備節點
       基本上只要在主節點和備節點上分別執行這兩條命令,Master-Slaver就算搭建完成了。我沒有試過主節點掛掉後備節點是否能變成主節點,不過既然已經不推薦了,大家就沒必要去使用了。

       以上三種叢集搭建方式首選Replica Set,只有真的是大資料,Sharding才能顯現威力,畢竟備節點同步資料是需要時間的。Sharding可以將多片資料集中到路由節點上進行一些對比,然後將資料返回給客戶端,但是效率還是比較低的說。

       我自己有測試過,不過具體的機器配置已經不記得了。Replica Set的ips在資料達到1400w條時基本能達到1000左右,而Sharding在300w時已經下降到500ips了,兩者的單位資料大小大概是10kb。大家在應用的時候還是多多做下效能測試,畢竟不像Redis有benchmark。

       Mongodb現在用的還是比較多的,但是個人覺得配置太多了。。。。我看官網都看了好多天,才把叢集搭建的配置和注意要點弄明白。而且用過的人應該知道mongodb吃記憶體的問題,解決辦法只能通過ulimit來控制記憶體使用量,但是如果控制不好的話,mongodb會掛掉。。。

過段時間我會寫一篇關於專案裡使用mongodb所涉及到的具體業務,各位有興趣可以關注下。

相關推薦

Java 連線MongoDB叢集的幾方式

先決條件 先執行mongodb肯定是必須的,然後匯入以下包: import com.mongodb.MongoClient; import com.mongodb.MongoClientURI; import com.mongodb.ServerAddress; import com.mong

Java連線MongoDB叢集的幾方式

先決條件 先執行mongodb肯定是必須的,然後匯入以下包: import com.mongodb.MongoClient; import com.mongodb.MongoClientURI; import com.mongodb.ServerAddress; import com.mon

Mongodb叢集搭建方式

       Mongodb是時下流行的NoSql資料庫,它的儲存方式是文件式儲存,並不是Key-Value形式。關於Mongodb的特點,這裡就不多介紹了,大家可以去看看官方說明:http://docs.mongodb.org/manual/        今天主要來說

方式搭建yum源

yum yum源 三種方式搭建yum源1、本地搭建yum源:[[email protected] x86_64]# vim /etc/yum.repos.d/mnt.repo [[email protected] x86_64]# cd /etc/yum.repos.d/[[ema

方式在CentOS 7搭建KVM虛擬化平臺

itl ali 簡單 結構 tar pac path idg so文件 KVM 全稱是基於內核的虛擬機(Kernel-based Virtual Machine),它是一個 Linux的一個內核模塊,該內核模塊使得 Linux變成了一個Hypervisor:它由

搭建FTP服務,實現方式的訪問:1.匿名訪問;2,本地用戶訪問;3虛擬用戶訪問。

行程 工作環境 能夠 ftp用戶 a10 linu 進入 編輯 binary FTP服務(File Transfer Protocol,文件傳輸協議)是典型的C/S結構 的應用層協議,需要由服務端軟件,客戶端軟件兩部分共同實 現文件

詳解Linux搭建vsftp服務器通過方式實現文件傳輸

x86 sys fig passwd 問題: mage vpd cee 啟用 概述 FTP(File Transfer Protocol)中文稱為“文件傳輸協議”。用於Internet上的控制文件的雙向傳輸。 工作原理 一、主動模式: 1、客戶端通過用戶名和密碼登錄服務器

Laravel學習-方式搭建開發環境

Laravel簡介: Laravel是一套簡介、優雅的PHP Web開發框架。它可以讓你從雜亂的程式碼中解脫出來;它可以幫你構建一個完美的網路應用,而且每行程式碼都可以簡潔,富於表達力。它是完全開源的:https://github.com/laravel/laravel一、

hive 方式區別和搭建

一、安裝模式介紹:     Hive官網上介紹了Hive的3種安裝方式,分別對應不同的應用場景。     1、內嵌模式(元資料保村在內嵌的derby種,允許一個會話連結,嘗試多個會話連結時會報錯)     2、本地模式(本地安裝mysql 替代derby儲存元資料)   

Apache hadoop叢集安裝的方式:本地、偽分佈、完全分佈

四 Hadoop執行模式1)官方網址(1)官方網站:(2)各個版本歸檔庫地址 (3)hadoop2.7.2版本詳情介紹2)Hadoop執行模式(1)本地模式(預設模式):不需要啟用單獨程序,直接可以執行,測試和開發時使用。(2)偽分散式模式:等同於完全分散式,只有一個節點。(

調用類的方式

set div sharp csharp true ren light setname clas 1.T t; Teacher teach ;//T t = new T t(); teach.SetName("lizl"); teach.Say(); 2 *t T

Java多線程實現的方式

get() warning 三種方式 方式 緩存 運行 了解 ren ava Java多線程實現方式主要有三種:繼承Thread類、實現Runnable接口、使用ExecutorService、Callable、Future實現有返回結果的多線程。其中前兩種方式線程執行完後

java數組擴增的方式

實現 arrays 數組復制 當我 自身 ++ new 復制 log java數組聲明的時候必須聲明其長度,但當我們想對數組進行擴增的時候該怎麽辦呢? 下面三種方式都可以進行擴增,最後一種也最為方便。 1 /** 2 * 手動循環擴增

java寫入文件的方式比較

all mem exc 操作 測試文件 nts sys output println 1.FileOutputStream方式 2.BufferedOutputStream方式 3.FileWriter方式 經過多次測試,發現不緩存的FileOutputStream會比較慢

JAVA實現Base64編碼的方式

ack ons static nts bstr clas [] ram trace 摘要: Javabase64編碼的三種方式 有如下三種方式: 方式一:commons-codec.jar Java代碼 1. String base64String="whuang12

SpringMVC返回json數據的方式

class error log under itl gmv nbsp sin pri SpringMVC返回json數據的三種方式:http://blog.csdn.net/shan9liang/article/details/42181345 上述第三種方法:可能會出

容器間通信的方式 - 每天5分鐘玩轉 Docker 容器技術(35)

docker 容器 教程 容器之間可通過 IP,Docker DNS Server 或 joined 容器三種方式通信。IP 通信從上一節的例子可以得出這樣一個結論:兩個容器要能通信,必須要有屬於同一個網絡的網卡。滿足這個條件後,容器就可以通過 IP 交互了。具體做法是在容器創建時通過 --net

java創建線程的方式及其對照

處理 sys eth 變量 創建ca ipp class rac 運行 Java中創建線程主要有三種方式: 一、繼承Thread類創建線程類 (1)定義Thread類的子類。並重寫該類的run方法,該run方法的方法體就代表了線程要完畢的任務。因此把run()方

Action訪問ServletAPI的方式

mvc 構造 缺點 思想 一個 前言 line api 這也 一、前言 Struts是一種基於MVC設計模式的web應用框架,主要擔任C的角色,用於分離頁面顯示和業務邏輯處理,那其實在我們學習jsp的時候學過一個具有類似功能的東西——servlet。其實Struts本質上相

Struts2學習(二)運行Action中方法的方式

tracking 利用 content con return -m i++ var itl 1.運行execute()方法 一般的能夠直接在action中書寫execute,調用action時會自己主動運行此方法 2.配置method方法 在s