1. 程式人生 > >Zookeeper的簡單原理介紹以及分散式服務中的應用,都是乾貨!!!

Zookeeper的簡單原理介紹以及分散式服務中的應用,都是乾貨!!!

安裝和配置詳解

本文介紹的 Zookeeper 是以 3.2.2 這個穩定版本為基礎,最新的版本可以通過官網 http://hadoop.apache.org/zookeeper/來獲取,Zookeeper 的安裝非常簡單,下面將從單機模式和叢集模式兩個方面介紹 Zookeeper 的安裝和配置。

單機模式

單機安裝非常簡單,只要獲取到 Zookeeper 的壓縮包並解壓到某個目錄如:/home/zookeeper-3.2.2 下,Zookeeper 的啟動指令碼在 bin 目錄下,Linux 下的啟動指令碼是 zkServer.sh,在 3.2.2 這個版本 Zookeeper 沒有提供 windows 下的啟動指令碼,所以要想在 windows 下啟動 Zookeeper 要自己手工寫一個,如清單 1 所示:

清單 1. Windows 下 Zookeeper 啟動指令碼

setlocal

set ZOOCFGDIR=%~dp0%..\conf

set ZOO_LOG_DIR=%~dp0%..

set ZOO_LOG4J_PROP=INFO,CONSOLE

set CLASSPATH=%ZOOCFGDIR%


set CLASSPATH=%~dp0..\*;%~dp0..\lib\*;%CLASSPATH%

set CLASSPATH=%~dp0..\build\classes;%~dp0..\build\lib\*;%CLASSPATH%

set ZOOCFG=%ZOOCFGDIR%\zoo.cfg

set ZOOMAIN=org.apache.zookeeper.server.ZooKeeperServerMain

java "-Dzookeeper.log.dir=%ZOO_LOG_DIR%" "-Dzookeeper.root.logger=%ZOO_LOG4J_PROP%"

-cp "%CLASSPATH%" %ZOOMAIN% "%ZOOCFG%" %*

endlocal

在你執行啟動指令碼之前,還有幾個基本的配置項需要配置一下,Zookeeper 的配置檔案在 conf 目錄下,這個目錄下有 zoo_sample.cfg 和 log4j.properties,你需要做的就是將 zoo_sample.cfg 改名為 zoo.cfg,因為 Zookeeper 在啟動時會找這個檔案作為預設配置檔案。下面詳細介紹一下,這個配置檔案中各個配置項的意義。

tickTime=2000
dataDir=D:/devtools/zookeeper-3.2.2/build
clientPort=2181
  • tickTime:這個時間是作為 Zookeeper 伺服器之間或客戶端與伺服器之間維持心跳的時間間隔,也就是每個 tickTime 時間就會發送一個心跳。
  • dataDir:顧名思義就是 Zookeeper 儲存資料的目錄,預設情況下,Zookeeper 將寫資料的日誌檔案也儲存在這個目錄裡。
  • clientPort:這個埠就是客戶端連線 Zookeeper 伺服器的埠,Zookeeper 會監聽這個埠,接受客戶端的訪問請求。

當這些配置項配置好後,你現在就可以啟動 Zookeeper 了,啟動後要檢查 Zookeeper 是否已經在服務,可以通過 netstat – ano 命令檢視是否有你配置的 clientPort 埠號在監聽服務。

叢集模式

Zookeeper 不僅可以單機提供服務,同時也支援多機組成叢集來提供服務。實際上 Zookeeper 還支援另外一種偽叢集的方式,也就是可以在一臺物理機上執行多個 Zookeeper 例項,下面將介紹叢集模式的安裝和配置。

Zookeeper 的叢集模式的安裝和配置也不是很複雜,所要做的就是增加幾個配置項。叢集模式除了上面的三個配置項還要增加下面幾個配置項:

initLimit=5
syncLimit=2
server.1=192.168.211.1:2888:3888
server.2=192.168.211.2:2888:3888
  • initLimit:這個配置項是用來配置 Zookeeper 接受客戶端(這裡所說的客戶端不是使用者連線 Zookeeper 伺服器的客戶端,而是 Zookeeper 伺服器叢集中連線到 Leader 的 Follower 伺服器)初始化連線時最長能忍受多少個心跳時間間隔數。當已經超過 10 個心跳的時間(也就是 tickTime)長度後 Zookeeper 伺服器還沒有收到客戶端的返回資訊,那麼表明這個客戶端連線失敗。總的時間長度就是 5*2000=10 秒
  • syncLimit:這個配置項標識 Leader 與 Follower 之間傳送訊息,請求和應答時間長度,最長不能超過多少個 tickTime 的時間長度,總的時間長度就是 2*2000=4 秒
  • server.A=B:C:D:其中 A 是一個數字,表示這個是第幾號伺服器;B 是這個伺服器的 ip 地址;C 表示的是這個伺服器與叢集中的 Leader 伺服器交換資訊的埠;D 表示的是萬一叢集中的 Leader 伺服器掛了,需要一個埠來重新進行選舉,選出一個新的 Leader,而這個埠就是用來執行選舉時伺服器相互通訊的埠。如果是偽叢集的配置方式,由於 B 都是一樣,所以不同的 Zookeeper 例項通訊埠號不能一樣,所以要給它們分配不同的埠號。

除了修改 zoo.cfg 配置檔案,叢集模式下還要配置一個檔案 myid,這個檔案在 dataDir 目錄下,這個檔案裡面就有一個數據就是 A 的值,Zookeeper 啟動時會讀取這個檔案,拿到裡面的資料與 zoo.cfg 裡面的配置資訊比較從而判斷到底是那個 server。

補充:在單機模式下進行操作的相關命令提示。

服務端使用

zookeeper下bin目錄下常用的指令碼解釋:

1.zkCleanup 清理Zookeeper歷史資料,包括事物日誌檔案和快照資料檔案

2.zkCli Zookeeper的一個簡易客戶端

3.zkEnv 設定Zookeeper的環境變數

4.zkServer Zookeeper伺服器的啟動、停止、和重啟指令碼

1.執行服務

進入bin目錄,使用zkServer.sh start啟動服務;使用jps命令檢視,存在QuorumPeerMain程序,表示Zookeeper已經啟動

2.停止服務

在bin目錄下,使用zkServer.sh stop停止服務;使用jps命令檢視,QuorumPeerMain程序已不存在,表示Zookeeper已經關閉

客戶端使用

1.開啟客戶端

在服務端開啟的情況下,執行客戶端,使用如下命令:./zkCli.sh

連線服務端成功。若連線不同的主機,可使用如下命令:./zkCli.sh -server ip:port(當然可以使用配置檔案)。可以使用幫助命令help來檢視客戶端的操作

2.建立節點

使用create命令,可以建立一個Zookeeper節點,如下:

create [-s] [-e] path data acl

其中,-s或-e分別指定節點特性,順序或臨時節點,若不指定,則表示持久節點;acl用來進行許可權控制。

① 建立順序節點

使用 create -s /zk-test 123 命令建立zk-test順序節點;可以看到建立的zk-test節點後面添加了一串數字以示區別。

② 建立臨時節點

使用 create -e /zk-temp 123 命令建立zk-temp臨時節點;臨時節點在客戶端會話結束後,就會自動刪除,下面使用quit命令退出客戶端,再次使用客戶端連線服務端,並使用ls / 命令檢視根目錄下的節點,可以看到根目錄下已經不存在zk-temp臨時節點了。

③ 建立永久節點

使用 create /zk-permanent 123 命令建立zk-permanent永久節點,可以看到永久節點不同於順序節點,不會自動在後面新增一串數字。

3.讀取節點

與讀取相關的命令有ls 命令和get 命令,ls命令可以列出Zookeeper指定節點下的所有子節點,只能檢視指定節點下的第一級的所有子節點;get命令可以獲取Zookeeper指定節點的資料內容和屬性資訊。其用法分別如下

ls path [watch]

get path [watch]

ls2 path [watch]

若獲取根節點下面的所有子節點,使用ls / 命令即可,若想獲取根節點資料內容和屬性資訊,使用get / 命令即可,也可以使用ls2 / 命令檢視,可以看到其子節點數量為8。若想獲取/zk-permanent的資料內容和屬性,可使用如下命令:get /zk-permanent,可以看到其資料內容為123,還有其他的屬性,之後會詳細介紹。

4.更新節點

使用set命令,可以更新指定節點的資料內容,用法如下

set path data [version]

其中,data就是要更新的新內容,version表示資料版本,如將/zk-permanent節點的資料更新為456,可以使用如下命令:set /zk-permanent 456

現在dataVersion已經變為1了,表示進行了更新。

5.刪除節點

使用delete命令可以刪除Zookeeper上的指定節點,用法如下

delete path [version]

其中version也是表示資料版本,使用delete /zk-permanent 命令即可刪除/zk-permanent節點

可以看到,已經成功刪除/zk-permanent節點。值得注意的是,若刪除節點存在子節點,那麼無法刪除該節點,必須先刪除子節點,再刪除父節點。

資料模型

Zookeeper 會維護一個具有層次關係的資料結構,它非常類似於一個標準的檔案系統,如圖 1 所示:

圖 1 Zookeeper 資料結構

圖 1 Zookeeper 資料結構

Zookeeper 這種資料結構有如下這些特點:

  1. 每個子目錄項如 NameService 都被稱作為 znode,這個 znode 是被它所在的路徑唯一標識,如 Server1 這個 znode 的標識為 /NameService/Server1
  2. znode 可以有子節點目錄,並且每個 znode 可以儲存資料,注意 EPHEMERAL 型別的目錄節點不能有子節點目錄
  3. znode 是有版本的,每個 znode 中儲存的資料可以有多個版本,也就是一個訪問路徑中可以儲存多份資料
  4. znode 可以是臨時節點,一旦建立這個 znode 的客戶端與伺服器失去聯絡,這個 znode 也將自動刪除,Zookeeper 的客戶端和伺服器通訊採用長連線方式,每個客戶端和伺服器通過心跳來保持連線,這個連線狀態稱為 session,如果 znode 是臨時節點,這個 session 失效,znode 也就刪除了
  5. znode 的目錄名可以自動編號,如 App1 已經存在,再建立的話,將會自動命名為 App2
  6. znode 可以被監控,包括這個目錄節點中儲存的資料的修改,子節點目錄的變化等,一旦變化可以通知設定監控的客戶端,這個是 Zookeeper 的核心特性,Zookeeper 的很多功能都是基於這個特性實現的,後面在典型的應用場景中會有例項介紹

如何使用

Zookeeper 作為一個分散式的服務框架,主要用來解決分散式叢集中應用系統的一致性問題,它能提供基於類似於檔案系統的目錄節點樹方式的資料儲存,但是 Zookeeper 並不是用來專門儲存資料的,它的作用主要是用來維護和監控你儲存的資料的狀態變化。通過監控這些資料狀態的變化,從而可以達到基於資料的叢集管理,後面將會詳細介紹 Zookeeper 能夠解決的一些典型問題,這裡先介紹一下,Zookeeper 的操作介面和簡單使用示例。

常用介面列表

客戶端要連線 Zookeeper 伺服器可以通過建立 org.apache.zookeeper. ZooKeeper 的一個例項物件,然後呼叫這個類提供的介面來和伺服器互動。

前面說了 ZooKeeper 主要是用來維護和監控一個目錄節點樹中儲存的資料的狀態,所有我們能夠操作 ZooKeeper 的也和操作目錄節點樹大體一樣,如建立一個目錄節點,給某個目錄節點設定資料,獲取某個目錄節點的所有子目錄節點,給某個目錄節點設定許可權和監控這個目錄節點的狀態變化。

這些介面如下表所示:

表 1 org.apache.zookeeper. ZooKeeper 方法列表

方法名 方法功能描述
建立一個給定的目錄節點 path, 並給它設定資料,CreateMode 標識有四種形式的目錄節點,分別是 PERSISTENT:持久化目錄節點,這個目錄節點儲存的資料不會丟失;PERSISTENT_SEQUENTIAL:順序自動編號的目錄節點,這種目錄節點會根據當前已近存在的節點數自動加 1,然後返回給客戶端已經成功建立的目錄節點名;EPHEMERAL:臨時目錄節點,一旦建立這個節點的客戶端與伺服器埠也就是 session 超時,這種節點會被自動刪除;EPHEMERAL_SEQUENTIAL:臨時自動編號節點
Statexists(String path, boolean watch) 判斷某個 path 是否存在,並設定是否監控這個目錄節點,這裡的 watcher 是在建立 ZooKeeper 例項時指定的 watcher,exists方法還有一個過載方法,可以指定特定的 watcher
過載方法,這裡給某個目錄節點設定特定的 watcher,Watcher 在 ZooKeeper 是一個核心功能,Watcher 可以監控目錄節點的資料變化以及子目錄的變化,一旦這些狀態發生變化,伺服器就會通知所有設定在這個目錄節點上的 Watcher,從而每個客戶端都很快知道它所關注的目錄節點的狀態發生變化,而做出相應的反應
void delete(String path, int version) 刪除 path 對應的目錄節點,version 為 -1 可以匹配任何版本,也就刪除了這個目錄節點所有資料
獲取指定 path 下的所有子目錄節點,同樣 getChildren方法也有一個過載方法可以設定特定的 watcher 監控子節點的狀態
StatsetData(String path, byte[] data, int version) 給 path 設定資料,可以指定這個資料的版本號,如果 version 為 -1 怎可以匹配任何版本
byte[] getData(String path, boolean watch, Stat stat) 獲取這個 path 對應的目錄節點儲存的資料,資料的版本等資訊可以通過 stat 來指定,同時還可以設定是否監控這個目錄節點資料的狀態
客戶端將自己的授權資訊提交給伺服器,伺服器將根據這個授權資訊驗證客戶端的訪問許可權。
StatsetACL(String path, List<ACL> acl, int version) 給某個目錄節點重新設定訪問許可權,需要注意的是 Zookeeper 中的目錄節點許可權不具有傳遞性,父目錄節點的許可權不能傳遞給子目錄節點。目錄節點 ACL 由兩部分組成:perms 和 id。
Perms 有 ALL、READ、WRITE、CREATE、DELETE、ADMIN 幾種 
而 id 標識了訪問目錄節點的身份列表,預設情況下有以下兩種:
ANYONE_ID_UNSAFE = new Id("world", "anyone") 和 AUTH_IDS = new Id("auth", "") 分別表示任何人都可以訪問和建立者擁有訪問許可權。
List<ACLgetACL(String path, Stat stat) 獲取某個目錄節點的訪問許可權列表

除了以上這些上表中列出的方法之外還有一些過載方法,如都提供了一個回撥類的過載方法以及可以設定特定 Watcher 的過載方法,具體的方法可以參考 org.apache.zookeeper. ZooKeeper 類的 API 說明。

基本操作

下面給出基本的操作 ZooKeeper 的示例程式碼,這樣你就能對 ZooKeeper 有直觀的認識了。下面的清單包括了建立與 ZooKeeper 伺服器的連線以及最基本的資料操作:

清單 2. ZooKeeper 基本的操作示例

// 建立一個與伺服器的連線
ZooKeeper zk = new ZooKeeper("localhost:" + CLIENT_PORT,
       ClientBase.CONNECTION_TIMEOUT, new Watcher() {
           // 監控所有被觸發的事件
           public void process(WatchedEvent event) {
               System.out.println("已經觸發了" + event.getType() + "事件!");
           }
       });

// 建立一個目錄節點
zk.create("/testRootPath", "testRootData".getBytes(), Ids.OPEN_ACL_UNSAFE,
  CreateMode.PERSISTENT);
// 建立一個子目錄節點
zk.create("/testRootPath/testChildPathOne", "testChildDataOne".getBytes(),
  Ids.OPEN_ACL_UNSAFE,CreateMode.PERSISTENT);
System.out.println(new String(zk.getData("/testRootPath",false,null)));
// 取出子目錄節點列表
System.out.println(zk.getChildren("/testRootPath",true));
// 修改子目錄節點資料
zk.setData("/testRootPath/testChildPathOne","modifyChildDataOne".getBytes(),-1);
System.out.println("目錄節點狀態:["+zk.exists("/testRootPath",true)+"]");
// 建立另外一個子目錄節點
zk.create("/testRootPath/testChildPathTwo", "testChildDataTwo".getBytes(),
  Ids.OPEN_ACL_UNSAFE,CreateMode.PERSISTENT);
System.out.println(new String(zk.getData("/testRootPath/testChildPathTwo",true,null)));
// 刪除子目錄節點
zk.delete("/testRootPath/testChildPathTwo",-1);
zk.delete("/testRootPath/testChildPathOne",-1);
// 刪除父目錄節點
zk.delete("/testRootPath",-1);
// 關閉連線
zk.close();

輸出的結果如下:

已經觸發了 None 事件!
 testRootData
 [testChildPathOne]
目錄節點狀態:[5,5,1281804532336,1281804532336,0,1,0,0,12,1,6]
已經觸發了 NodeChildrenChanged 事件!
 testChildDataTwo
已經觸發了 NodeDeleted 事件!
已經觸發了 NodeDeleted 事件!

當對目錄節點監控狀態開啟時,一旦目錄節點的狀態發生變化,Watcher 物件的 process 方法就會被呼叫。

ZooKeeper 典型的應用場景

Zookeeper 從設計模式角度來看,是一個基於觀察者模式設計的分散式服務管理框架,它負責儲存和管理大家都關心的資料,然後接受觀察者的註冊,一旦這些資料的狀態發生變化,Zookeeper 就將負責通知已經在 Zookeeper 上註冊的那些觀察者做出相應的反應,從而實現叢集中類似 Master/Slave 管理模式,關於 Zookeeper 的詳細架構等內部細節可以閱讀 Zookeeper 的原始碼

下面詳細介紹這些典型的應用場景,也就是 Zookeeper 到底能幫我們解決那些問題?下面將給出答案。

統一命名服務(Name Service)

分散式應用中,通常需要有一套完整的命名規則,既能夠產生唯一的名稱又便於人識別和記住,通常情況下用樹形的名稱結構是一個理想的選擇,樹形的名稱結構是一個有層次的目錄結構,既對人友好又不會重複。說到這裡你可能想到了 JNDI,沒錯 Zookeeper 的 Name Service 與 JNDI 能夠完成的功能是差不多的,它們都是將有層次的目錄結構關聯到一定資源上,但是 Zookeeper 的 Name Service 更加是廣泛意義上的關聯,也許你並不需要將名稱關聯到特定資源上,你可能只需要一個不會重複名稱,就像資料庫中產生一個唯一的數字主鍵一樣。

Name Service 已經是 Zookeeper 內建的功能,你只要呼叫 Zookeeper 的 API 就能實現。如呼叫 create 介面就可以很容易建立一個目錄節點。

配置管理(Configuration Management)

配置的管理在分散式應用環境中很常見,例如同一個應用系統需要多臺 PC Server 執行,但是它們執行的應用系統的某些配置項是相同的,如果要修改這些相同的配置項,那麼就必須同時修改每臺執行這個應用系統的 PC Server,這樣非常麻煩而且容易出錯。

像這樣的配置資訊完全可以交給 Zookeeper 來管理,將配置資訊儲存在 Zookeeper 的某個目錄節點中,然後將所有需要修改的應用機器監控配置資訊的狀態,一旦配置資訊發生變化,每臺應用機器就會收到 Zookeeper 的通知,然後從 Zookeeper 獲取新的配置資訊應用到系統中。

圖 2. 配置管理結構圖

圖 2. 配置管理結構圖

叢集管理(Group Membership)

Zookeeper 能夠很容易的實現叢集管理的功能,如有多臺 Server 組成一個服務叢集,那麼必須要一個“總管”知道當前叢集中每臺機器的服務狀態,一旦有機器不能提供服務,叢集中其它叢集必須知道,從而做出調整重新分配服務策略。同樣當增加叢集的服務能力時,就會增加一臺或多臺 Server,同樣也必須讓“總管”知道。

Zookeeper 不僅能夠幫你維護當前的叢集中機器的服務狀態,而且能夠幫你選出一個“總管”,讓這個總管來管理叢集,這就是 Zookeeper 的另一個功能 Leader Election。

它們的實現方式都是在 Zookeeper 上建立一個 EPHEMERAL 型別的目錄節點,然後每個 Server 在它們建立目錄節點的父目錄節點上呼叫 getChildren(String path, boolean watch) 方法並設定 watch 為 true,由於是 EPHEMERAL 目錄節點,當建立它的 Server 死去,這個目錄節點也隨之被刪除,所以 Children 將會變化,這時 getChildren上的 Watch 將會被呼叫,所以其它 Server 就知道已經有某臺 Server 死去了。新增 Server 也是同樣的原理。

Zookeeper 如何實現 Leader Election,也就是選出一個 Master Server。和前面的一樣每臺 Server 建立一個 EPHEMERAL 目錄節點,不同的是它還是一個 SEQUENTIAL 目錄節點,所以它是個 EPHEMERAL_SEQUENTIAL 目錄節點。之所以它是 EPHEMERAL_SEQUENTIAL 目錄節點,是因為我們可以給每臺 Server 編號,我們可以選擇當前是最小編號的 Server 為 Master,假如這個最小編號的 Server 死去,由於是 EPHEMERAL 節點,死去的 Server 對應的節點也被刪除,所以當前的節點列表中又出現一個最小編號的節點,我們就選擇這個節點為當前 Master。這樣就實現了動態選擇 Master,避免了傳統意義上單 Master 容易出現單點故障的問題。

圖 3. 叢集管理結構圖

圖 3. 叢集管理結構圖

這部分的示例程式碼如下,完整的程式碼請看附件:

清單 3. Leader Election 關鍵程式碼

void findLeader() throws InterruptedException {
       byte[] leader = null;
       try {
           leader = zk.getData(root + "/leader", true, null);

       } catch (Exception e) {
           logger.error(e);
       }
       if (leader != null) {
           following();
       } else {
           String newLeader = null;
           try {
               byte[] localhost = InetAddress.getLocalHost().getAddress();

               newLeader = zk.create(root + "/leader", localhost,

               ZooDefs.Ids.OPEN_ACL_UNSAFE, CreateMode.EPHEMERAL);

           } catch (Exception e) {

               logger.error(e);
           }
           if (newLeader != null) {
               leading();
           } else {
               mutex.wait();
           }
       }
   }

共享鎖(Locks)

共享鎖在同一個程序中很容易實現,但是在跨程序或者在不同 Server 之間就不好實現了。Zookeeper 卻很容易實現這個功能,實現方式也是需要獲得鎖的 Server 建立一個 EPHEMERAL_SEQUENTIAL 目錄節點,然後呼叫 getChildren方法獲取當前的目錄節點列表中最小的目錄節點是不是就是自己建立的目錄節點,如果正是自己建立的,那麼它就獲得了這個鎖,如果不是那麼它就呼叫 exists(String path, boolean watch) 方法並監控 Zookeeper 上目錄節點列表的變化,一直到自己建立的節點是列表中最小編號的目錄節點,從而獲得鎖,釋放鎖很簡單,只要刪除前面它自己所建立的目錄節點就行了。

圖 4. Zookeeper 實現 Locks 的流程圖

圖 4. Zookeeper 實現 Locks 的流程圖

同步鎖的實現程式碼如下,完整的程式碼請看附件:

清單 4. 同步鎖的關鍵程式碼

void getLock() throws KeeperException, InterruptedException{

       List<String> list = zk.getChildren(root, false);
       String[] nodes = list.toArray(new String[list.size()]);
       Arrays.sort(nodes);
       if(myZnode.equals(root+"/"+nodes[0])){
           doAction();
       }
       else{
           waitForLock(nodes[0]);
       }
   }

   void waitForLock(String lower) throws InterruptedException, KeeperException {
       Stat stat = zk.exists(root + "/" + lower,true);
       if(stat != null){
           mutex.wait();
       }
       else{
           getLock();
       }
   }

 補充:

分散式鎖是控制分散式系統之間同步方問共享資源的一種方式。如果不同的系統或是同一個系統的不同主機之間共亨 了一個或一組資源,那麼汸問這些資源的時候,往往需要通過一些互斥手段來防止彼此之間的干擾,以保證一致性,在這種情況下,就需要使用分散式鎖了。
在平時的實際專案的開發中,我們往往很少會去在意分散式鎖,而是依賴幹關係型資料庫固有的排他性來實現不間程序之間的互斥。這確實是一種非常簡便且被廣泛使用的分散式鎖實現方式。然而行一個不爭的#實是, H前絕大多數大型分散式系統的效能瓶頸都集中在資料庫操作上。閃此,如果上層業務再給資料庫新增一些額外的鎖,例如行鎖、表鎖甚至是繁 i的簾務處理,那麼是不是會讓資料庫更加不堪重負呢?下而我們來看看使 用Zookeeper如何實現分散式鎖,這裡主要講解排他鎖和共享鎖兩類分散式鎖。

1、排他鎖
排他鎖(Exclusive Locks,簡稱X鎖又稱為寫鎖或獨佔鎖,是一種基本的鎖型別。如果事務乃對資料物件仏加^了排他鎖,那麼在整個加鎖期間,只允許事務乃對仏進行讀取和史新操作,其他ff: H#務都不能W對這個資料物件進行任何型別的操作—直到乃釋放r排他鎖。從上面汫解的排他鎖的基本概念中,我們4以看到,排他鎖的核心是如何保證當前有且w冇一個亊務獲得鎖,並 a鎖被釋放後,所有正在等待獲取鎖的事務都能夠被通知到。下面我們就來看看如何藉助ZooKeeper實現排他鎖。
2、共享鎖

佇列管理

Zookeeper 可以處理兩種型別的佇列:

  1. 當一個佇列的成員都聚齊時,這個佇列才可用,否則一直等待所有成員到達,這種是同步佇列。
  2. 佇列按照 FIFO 方式進行入隊和出隊操作,例如實現生產者和消費者模型。

同步佇列用 Zookeeper 實現的實現思路如下:

建立一個父目錄 /synchronizing,每個成員都監控標誌(Set Watch)位目錄 /synchronizing/start 是否存在,然後每個成員都加入這個佇列,加入佇列的方式就是建立 /synchronizing/member_i 的臨時目錄節點,然後每個成員獲取 / synchronizing 目錄的所有目錄節點,也就是 member_i。判斷 i 的值是否已經是成員的個數,如果小於成員個數等待 /synchronizing/start 的出現,如果已經相等就建立 /synchronizing/start。

用下面的流程圖更容易理解:

圖 5. 同步佇列流程圖

圖 5. 同步佇列流程圖

同步佇列的關鍵程式碼如下,完整的程式碼請看附件:

清單 5. 同步佇列

void addQueue() throws KeeperException, InterruptedException{

       zk.exists(root + "/start",true);

       zk.create(root + "/" + name, new byte[0], Ids.OPEN_ACL_UNSAFE,
       CreateMode.EPHEMERAL_SEQUENTIAL);
       synchronized (mutex) {
           List<String> list = zk.getChildren(root, false);
           if (list.size() < size) {
               mutex.wait();
           } else {
               zk.create(root + "/start", new byte[0], Ids.OPEN_ACL_UNSAFE,
                CreateMode.PERSISTENT);
           }
       }
}

當佇列沒滿是進入 wait(),然後會一直等待 Watch 的通知,Watch 的程式碼如下:

public void process(WatchedEvent event) {

       if(event.getPath().equals(root + "/start") &&

        event.getType() == Event.EventType.NodeCreated){

           System.out.println("得到通知");

           super.process(event);
           doAction();
       }
   }

FIFO 佇列用 Zookeeper 實現思路如下:

實現的思路也非常簡單,就是在特定的目錄下建立 SEQUENTIAL 型別的子目錄 /queue_i,這樣就能保證所有成員加入佇列時都是有編號的,出佇列時通過 getChildren( ) 方法可以返回當前所有的佇列中的元素,然後消費其中最小的一個,這樣就能保證 FIFO。

下面是生產者和消費者這種佇列形式的示例程式碼,完整的程式碼請看附件:

清單 6. 生產者程式碼

boolean produce(int i) throws KeeperException, InterruptedException{

       ByteBuffer b = ByteBuffer.allocate(4);
       byte[] value;
       b.putInt(i);
       value = b.array();
       zk.create(root + "/element", value, ZooDefs.Ids.OPEN_ACL_UNSAFE,
       CreateMode.PERSISTENT_SEQUENTIAL);

       return true;
   }

清單 7. 消費者程式碼

int consume() throws KeeperException, InterruptedException{
       int retvalue = -1;
       Stat stat = null;
       while (true) {
           synchronized (mutex) {
               List<String> list = zk.getChildren(root, true);
               if (list.size() == 0) {
                   mutex.wait();
               } else {
                   Integer min = new Integer(list.get(0).substring(7));
                   for(String s : list){
                       Integer tempValue = new Integer(s.substring(7));
                       if(tempValue < min) min = tempValue;
                   }
                   byte[] b = zk.getData(root + "/element" + min,false, stat);
                   zk.delete(root + "/element" + min, 0);
                   ByteBuffer buffer = ByteBuffer.wrap(b);
                   retvalue = buffer.getInt();
                   return retvalue;
               }
           }
       }
}

總結

Zookeeper 作為 Hadoop 專案中的一個子專案,是 Hadoop 叢集管理的一個必不可少的模組,它主要用來控制叢集中的資料,如它管理 Hadoop 叢集中的 NameNode,還有 Hbase 中 Master Election、Server 之間狀態同步等。

本文介紹的 Zookeeper 的基本知識,以及介紹了幾個典型的應用場景。這些都是 Zookeeper 的基本功能,最重要的是 Zoopkeeper 提供了一套很好的分散式叢集管理的機制,就是它這種基於層次型的目錄樹的資料結構,並對樹中的節點進行有效管理,從而可以設計出多種多樣的分散式的資料管理模型,而不僅僅侷限於上面提到的幾個常用應用場景。