1、Zookeeper是什麼？

分佈、開源的應用程式協調服務,它是叢集的管理者,監視著叢集中各個節點的狀態，根據節點的反饋進行下一步合理操作。主要解決分散式應用經常遇到的資料管理問題,如：統一命名服務、狀態同步服務、叢集管理、分散式應用配置項的管理等。

（Zookeeper 作為 Hadoop 專案中的一個子專案，是 Hadoop 叢集管理的一個必不可少的模組，它主要用來控制叢集中的資料，如它管理 Hadoop 叢集中的 NameNode，還有 Hbase 中 Master Election、Server 之間狀態同步等。）

2、Zookeeper提供什麼？

Zookeepr提供檔案系統及通知機制。

（

每個子目錄項如 NameService 都被稱作為 znode，和檔案系統一樣，自由增加及刪除，唯一不同其可儲存資料。Znode分為四種類型

(1) PERSISTENT-持久化目錄節點。（客戶端與zookeeper斷開連線後，該節點依舊存在）。

(2) PERSISTENT_SEQUENTIAL-持久化順序編號目錄節點。（客戶端與zookeeper斷開連線後，該節點依舊存在，只是Zookeeper給該節點名稱進行順序編號）

(3) EPHEMERAL-臨時目錄節點（客戶端與zookeeper斷開連線後，該節點被刪除）

(4) EPHEMERAL_SEQUENTIAL-臨時順序編號目錄節點。（

（2）通知機制：客戶端註冊監聽它關心的目錄節點，當目錄節點發生變化（資料改變、被刪除、子目錄節點增加刪除）時，zookeeper會通知客戶端。

3、Zookeeper能為我們做什麼？

（1）命名服務：在zookeeper的檔案系統裡建立一個目錄，即有唯一的path。在我們使用tborg無法確定上游程式的部署機器時即可與下游程式約定好path，通過path即能互相探索發現。

（2）配置管理：把應用配置放置zookeeper上去,儲存在 Zookeeper 的某個目錄節點中，然後所有相關應用程式對這個目錄節點進行

（3）叢集管理：節點（機器）增刪及Master選取。節點增刪：所有機器約定在父目錄GroupMembers下建立臨時目錄節點，然後監聽父目錄節點的子節點變化訊息。一旦有機器掛掉，該機器與 zookeeper的連線斷開，其所建立的臨時目錄節點被刪除，所有其他機器都收到通知：某個兄弟目錄被刪除，於是，所有人都知道：它上船了。新機器加入 也是類似，所有機器收到通知：新兄弟目錄加入，highcount又有了。Master選取：所有機器建立臨時順序編號目錄節點，每次選取編號最小的機器作為master就好。

（4）分散式鎖：基於zookeeper一致性檔案系統,實現鎖服務。鎖服務分為儲存獨佔及時序控制兩類。儲存獨佔：將zookeeper上的一個znode看作是一把鎖，通過createznode的方式來實現。所有客戶端都去建立 /distribute_lock 節點，最終成功建立的那個客戶端也即擁有了這把鎖。用完刪除自己建立的distribute_lock 節點就釋放鎖。時序控制：基於/distribute_lock鎖，所有客戶端在它下面建立臨時順序編號目錄節點，和選master一樣，編號最小的獲得鎖，用完刪除，依次方便。

（5）佇列管理：分同步佇列,FIFO佇列（入隊與出隊），同步佇列：當一個佇列的成員都聚齊時，這個佇列才可用，否則一直等待所有成員到達。在約定目錄下建立臨時目錄節點，監聽節點數目是否是我們要求的數目。FIFO佇列：和分散式鎖服務中的控制時序場景基本原理一致，入列有編號，出列按編號。

（6）分散式與資料複製：Zookeeper作為一個叢集提供一致的資料服務，必然在所有機器間做資料複製。資料複製好處：（1）容錯：一個節點出錯，不致於讓整個系統停止工作，別的節點可以接管它的工作。（2）提高系統的擴充套件能力：把負載分佈到多個節點上，或者增加節點來提高系統的負載能力；（3）效能提升：讓客戶端本地訪問就近節點,提高使用者訪問速度。

4、Paxos演算法（資料一致性）

資料集群系統分：（1）寫主（writeMaster）,對資料的修改提交給指定的節點。讀無此限制，可以讀取任何一個節點。這種情況下客戶端需要對讀與寫進行區別，俗稱讀寫分離；（2）寫任意（對資料的修改可提交給任意的節點，跟讀一樣。這種情況下，客戶端對叢集節點的角色與變化透明。）對zookeeper來說，它採用的方式是寫任意。通過增加機器，它的讀吞吐能力和響應能力擴充套件性非常好，而寫，隨著機器的增多吞吐能力肯定下降（這也是它建立observer的原因），而響應能力則取決於具體實現方式，是延遲複製保持最終一致性，還是立即複製快速響應。

原則：在一個分散式資料庫系統中，如果各節點的初始狀態一致，每個節點都執行相同的操作序列，那麼他們最後能得到一個一致的狀態。Paxos演算法解決：保證每個節點執行相同的操作序列。

Paxos演算法通過投票來對寫操作進行全域性編號，同一時刻，只有一個寫操作被批准，同時併發的寫操作要去爭取選票，只有獲得過半數選票的寫操作才會被 批准（所以永遠只會有一個寫操作得到批准），其他的寫操作競爭失敗只好再發起一輪投票，就這樣，在日復一日年復一年的投票中，所有寫操作都被嚴格編號排序。編號嚴格遞增，當一個節點接受了一個編號為100的寫操作，之後又接受到編號為99的寫操作（因為網路延遲等很多不可預見原因），它馬上能意識到自己 資料不一致了，自動停止對外服務並重啟同步過程。任何一個節點掛掉都不會影響整個叢集的資料一致性（總2n+1臺，除非掛掉大於n臺）。

5、Zookeepr基本概念

5.1角色簡介

Zookeeper角色分為三類：

（1）領導者：負責進行投票的發起和決議,更新系統狀態。

（2）學習者：①跟隨者：Follower用於接收客戶請求並向客戶端返回結果，在選中過程中參與投票。②觀察者：Observer可以接收客戶端連線，將寫請求轉發給leader節點。但不參加投票過程,只同步leader狀態。Observer目的在於擴充套件系統，提高讀取速度。

（3）客戶端：請求發起方。

系統模型如圖：

5.2設計目的

（1）一致性：client不論連線到哪個Server，展示給它都是同一個檢視，這是zookeeper最重要的效能。

（2）可靠性：具有簡單、健壯、良好的效能，如果訊息m被到一臺伺服器接受，那麼它將被所有的伺服器接受。

（3）實時性：Zookeeper保證客戶端將在一個時間間隔範圍內獲得伺服器的更新資訊，或者伺服器失效的資訊。但由於網路延時等原因，Zookeeper不能保證兩個客戶端能同時得到剛更新的資料，如果需要最新資料，應該在讀資料之前呼叫sync()介面。

（4）等待無關（wait-free）：慢的或者失效的client不得干預快速的client的請求，使得每個client都能有效的等待。

（5）原子性：更新只能成功或者失敗，沒有中間狀態。

（6）順序性：包括全域性有序和偏序兩種：全域性有序是指如果在一臺伺服器上訊息a在訊息b前釋出，則在所有Server上訊息a都將在訊息b前被髮布；偏序是指如果一個訊息b在訊息a後被同一個傳送者釋出，a必將排在b前面。

6、Zookeepr工作原理

Zookeeper的核心是原子廣播，這個機制保證了各個Server之間的同步。實現這個機制的協議叫做Zab協議。Zab協議有兩種模式，它們分別是恢復模式（選主）和廣播模式（同步）。當服務啟動或者在領導者崩潰後，Zab就進入了恢復模式，當領導者被選舉出來，且大多數Server完成了和 leader的狀態同步以後，恢復模式就結束了。狀態同步保證了leader和Server具有相同的系統狀態。

為了保證事務的順序一致性，zookeeper採用了遞增的事務id號（zxid）來標識事務。所有的提議（proposal）都在被提出的時候加上 了zxid。實現中zxid是一個64位的數字，它高32位是epoch用來標識leader關係是否改變，每次一個leader被選出來，它都會有一個 新的epoch，標識當前屬於那個leader的統治時期。低32位用於遞增計數。

每個Server在工作過程中有三種狀態：

（1）LOOKING：當前Server不知道leader是誰，正在搜尋。

（2）LEADING：當前Server即為選舉出來的leader。

（3）FOLLOWING：leader已經選舉出來，當前Server與之同步。

6.1選主流程

當leader崩潰或者leader失去大多數的follower，這時候zk進入恢復模式，恢復模式需要重新選舉出一個新的leader，讓所有的 Server都恢復到一個正確的狀態。Zk的選舉演算法有兩種：一種是基於basic paxos實現的，另外一種是基於fast paxos演算法實現的。系統預設的選舉演算法為fast paxos。先介紹basic paxos流程：

Basic paxos：當前Server發起選舉的執行緒,向所有Server發起詢問,選舉執行緒收到所有回覆,計算zxid最大Server,並推薦此為leader，若此提議獲得n/2+1票通過,此為leader，否則重複上述流程，直到leader選出。

Fast paxos:某Server首先向所有Server提議自己要成為leader，當其它Server收到提議以後，解決epoch和 zxid的衝突，並接受對方的提議，然後向對方傳送接受提議完成的訊息，重複這個流程，最後一定能選舉出Leader。(即提議方解決其他所有epoch和 zxid的衝突,即為leader)。

6.2同步流程

（1）Leader等待server連線；

（2）Follower連線leader，將最大的zxid傳送給leader；

（3）Leader根據follower的zxid確定同步點，完成同步後通知follower 已經成為uptodate狀態；

（4）Follower收到uptodate訊息後，又可以重新接受client的請求進行服務了。

6.3主要功能（server）

（1）Leader主要功能：①恢復資料②維持與Learner的心跳，接收Learner請求並判斷Learner的請求訊息型別；③Learner的訊息型別主要有PING訊息、REQUEST訊息、ACK訊息、REVALIDATE訊息，根據不同的訊息型別，進行不同的處理。

PING訊息是指Learner的心跳資訊；REQUEST訊息是Follower傳送的提議資訊，包括寫請求及同步請求；ACK訊息是 Follower的對提議的回覆，超過半數的Follower通過，則commit該提議；REVALIDATE訊息是用來延長SESSION有效時間。

（2）Follower主要功能：①向Leader傳送請求（PING訊息、REQUEST訊息、ACK訊息、REVALIDATE訊息）；②接收Leader訊息並進行處理；③接收Client的請求，如果為寫請求，傳送給Leader進行投票；④返回Client結果。

7、Zookeeper應用場景

（1）資料釋出與訂閱：釋出與訂閱即所謂的配置管理，顧名思義就是將資料釋出到zk節點上，供訂閱者動態獲取資料，實現配置資訊的集中式管理和動態更新。例如全域性的配置資訊，地址列表等就非常適合使用。

（2）NameService：作為分散式命名服務，通過呼叫zk的create node api，能夠很容易建立一個全域性唯一的path，這個path就可以作為一個名稱。

（3）分佈通知/協調：ZooKeeper 中特有watcher註冊與非同步通知機制，能夠很好的實現分散式環境下不同系統之間的通知與協調，實現對資料變更的實時處理。使用方法通常是不同系統都對 ZK上同一個znode進行註冊，監聽znode的變化（包括znode本身內容及子節點的），其中一個系統update了znode，那麼另一個系統能 夠收到通知，並作出相應處理。使用zookeeper來進行分散式通知和協調能夠大大降低系統之間的耦合。

（4）分散式鎖：主要得益於ZooKeeper為我們保證了資料的強一致性，即使用者只要完全相信每時每刻，zk叢集中任意節點（一個zk server）上的相同znode的資料是一定是相同的。鎖服務可以分為兩類，一個是保持獨佔，另一個是控制時序。控制時序中Zk的父節點（/distribute_lock）維持一份sequence,保證子節點建立的時序性，從而也形成了每個客戶端的全域性時序。

（5）叢集管理：①叢集監控：a. 客戶端在節點 x 上註冊一個Watcher，那麼如果x的子節點變化了，會通知該客戶端。b. 建立EPHEMERAL型別的節點，一旦客戶端和伺服器的會話結束或過期，那麼該節點就會消失。②Master選舉：

利用ZooKeeper的強一致性，能夠保證在分散式高併發情況下節點建立的全域性唯一性，即：同時有多個客戶端請求建立 /currentMaster 節點，最終一定只有一個客戶端請求能夠建立成功。

（6）分散式佇列：一種常規先進先出,另一種待佇列成員集齊後執行。

參考文章：https://blog.csdn.net/gs80140/article/details/51496925