2016年11月18日-20日，由CSDN重磅打造的年終技術盛會SDCC 2016中國軟體開發者大會將在北京舉行，大會秉承乾貨實料（案例）的內容原則，本次大會共設定了12大專題、近百位的演講嘉賓，並邀請業內頂尖的CTO、架構師和技術專家，與參會嘉賓共同探討電商架構、高可用架構、程式語言、架構師進階、微信開發、前端、平臺架構演進、基於Spark的大資料系統設計、自動化運維與容器實踐、高吞吐資料庫系統設計要領、移動視訊直播技術等。10月21日仍是五折搶票，最低1400元，點選註冊參會搶票。

【前言】

隨著網際網路資訊科技的飛速發展，資料量不斷增大，業務邏輯也日趨複雜，對系統的高併發訪問、海量資料處理的場景也越來越多。如何用較低成本實現系統的高可用、易伸縮、可擴充套件等目標就顯得越發重要。為了解決這一系列問題，系統架構也在不斷演進。傳統的集中式系統已經逐漸無法滿足要求，分散式系統被使用在更多的場景中。

分散式系統由獨立的伺服器通過網路鬆散耦合組成。在這個系統中每個伺服器都是一臺獨立的主機，伺服器之間通過內部網路連線。分散式系統有以下幾個特點：

• 可擴充套件性：可通過橫向水平擴充套件提高系統的效能和吞吐量。
• 高可靠性：高容錯，即使系統中一臺或幾臺故障，系統仍可提供服務。
• 高併發性：各機器並行獨立處理和計算。
• 廉價高效：多臺小型機而非單臺高效能機。

然而，在分散式系統中，其環境的複雜度、網路的不確定性會造成諸如時鐘不一致、“拜占庭將軍問題”（Byzantine failure）等。存在於集中式系統中的機器宕機、訊息丟失等問題也會在分散式環境中變得更加複雜。

基於分散式系統的這些特徵，有兩種問題逐漸成為了分散式環境中需要重點關注和解決的典型問題：

• 互斥性問題。
• 冪等性問題。

今天我們就針對這兩個問題來進行分析。

互斥性問題

先看兩個常見的例子：

例1：某服務記錄關鍵資料X，當前值為100。A請求需要將X增加200；同時，B請求需要將X減100。

在理想的情況下，A先讀取到X=100，然後X增加200，最後寫入X=300。B請求接著從讀取X=300，減少100，最後寫入X=200。

然而在真實情況下，如果不做任何處理，則可能會出現：A和B同時讀取到X=100；A寫入之前B讀取到X；B比A先寫入等情況。

例2：某服務提供一組任務，A請求隨機從任務組中獲取一個任務；B請求隨機從任務組中獲取一個任務。

在理想的情況下，A從任務組中挑選一個任務，任務組刪除該任務，B從剩下的的任務中再挑一個，任務組刪除該任務。

同樣的，在真實情況下，如果不做任何處理，可能會出現A和B挑中了同一個任務的情況。

以上的兩個例子，都存在操作互斥性的問題。互斥性問題用通俗的話來講，就是對共享資源的搶佔問題。如果不同的請求對同一個或者同一組資源讀取並修改時，無法保證按序執行，無法保證一個操作的原子性，那麼就很有可能會出現預期外的情況。因此操作的互斥性問題，也可以理解為一個需要保證時序性、原子性的問題。

在傳統的基於資料庫的架構中，對於資料的搶佔問題往往是通過資料庫事務（ACID）來保證的。在分散式環境中，出於對效能以及一致性敏感度的要求，使得分散式鎖成為了一種比較常見而高效的解決方案。

事實上，操作互斥性問題也並非分散式環境所獨有，在傳統的多執行緒、多程序情況下已經有了很好的解決方案。因此在研究分散式鎖之前，我們先來分析下這兩種情況的解決方案，以期能夠對分散式鎖的解決方案提供一些實現思路。

多執行緒環境解決方案及原理

解決方案

《Thinking in Java》書中寫到：

基本上所有的併發模式在解決執行緒衝突問題的時候，都是採用序列化訪問共享資源的方案。

在多執行緒環境中，執行緒之間因為公用一些儲存空間，衝突問題時有發生。解決衝突問題最普遍的方式就是用互斥鎖把該資源或對該資源的操作保護起來。

Java JDK中提供了兩種互斥鎖Lock和synchronized。不同的執行緒之間對同一資源進行搶佔，該資源通常表現為某個類的普通成員變數。因此，利用ReentrantLock或者synchronized將共享的變數及其操作鎖住，即可基本解決資源搶佔的問題。

下面來簡單聊一聊兩者的實現原理。

原理

ReentrantLock

ReentrantLock主要利用CAS+CLH佇列來實現。它支援公平鎖和非公平鎖，兩者的實現類似。

• CAS：Compare and Swap，比較並交換。CAS有3個運算元：記憶體值V、預期值A、要修改的新值B。當且僅當預期值A和記憶體值V相同時，將記憶體值V修改為B，否則什麼都不做。該操作是一個原子操作，被廣泛的應用在Java的底層實現中。在Java中，CAS主要是由sun.misc.Unsafe這個類通過JNI呼叫CPU底層指令實現。

• CLH佇列：帶頭結點的雙向非迴圈連結串列(如下圖所示)：

ReentrantLock的基本實現可以概括為：先通過CAS嘗試獲取鎖。如果此時已經有執行緒佔據了鎖，那就加入CLH佇列並且被掛起。當鎖被釋放之後，排在CLH佇列隊首的執行緒會被喚醒，然後CAS再次嘗試獲取鎖。在這個時候，如果：

• 非公平鎖：如果同時還有另一個執行緒進來嘗試獲取，那麼有可能會讓這個執行緒搶先獲取；
• 公平鎖：如果同時還有另一個執行緒進來嘗試獲取，當它發現自己不是在隊首的話，就會排到隊尾，由隊首的執行緒獲取到鎖。

下面分析下兩個片段：

final boolean nonfairTryAcquire(int acquires) {
    final Thread current = Thread.currentThread();
    int c = getState();
    if (c == 0) {
        if (compareAndSetState(0, acquires)) {
            setExclusiveOwnerThread(current);
            return true;
        }
    }
    else if (current == getExclusiveOwnerThread()) {
        int nextc = c + acquires;
        if (nextc < 0) // overflow
            throw new Error("Maximum lock count exceeded");
        setState(nextc);
        return true;
    }
    return false;
}

在嘗試獲取鎖的時候，會先呼叫上面的方法。如果狀態為0，則表明此時無人佔有鎖。此時嘗試進行set，一旦成功，則成功佔有鎖。如果狀態不為0，再判斷是否是當前執行緒獲取到鎖。如果是的話，將狀態+1，因為此時就是當前執行緒，所以不用CAS。這也就是可重入鎖的實現原理。

final boolean acquireQueued(final Node node, int arg) {
    boolean failed = true;
    try {
        boolean interrupted = false;
        for (;;) {
            final Node p = node.predecessor();
            if (p == head && tryAcquire(arg)) {
                setHead(node);
                p.next = null; // help GC
                failed = false;
                return interrupted;
            }
            if (shouldParkAfterFailedAcquire(p, node) &&
                parkAndCheckInterrupt())
                interrupted = true;
        }
    } finally {
        if (failed)
            cancelAcquire(node);
    }
}
private final boolean parkAndCheckInterrupt() {
    LockSupport.park(this);
    return Thread.interrupted();
}

該方法是在嘗試獲取鎖失敗加入CHL隊尾之後，如果發現前序節點是head，則CAS再嘗試獲取一次。否則，則會根據前序節點的狀態判斷是否需要阻塞。如果需要阻塞，則呼叫LockSupport的park方法阻塞該執行緒。

synchronized

在Java語言中存在兩種內建的synchronized語法：synchronized語句、synchronized方法。

• synchronized語句：當原始碼被編譯成位元組碼的時候，會在同步塊的入口位置和退出位置分別插入monitorenter和monitorexit位元組碼指令;
• synchronized方法：在Class檔案的方法表中將該方法的access_flags欄位中的synchronized標誌位置1。這個在specification中沒有明確說明。

monitorenter

The objectref must be of type reference.

Each object is associated with a monitor. A monitor is locked if and only if it has an owner. The thread that executes monitorenter attempts to gain ownership of the monitor associated with objectref, as follows:

• If the entry count of the monitor associated with objectref is zero, the thread enters the monitor and sets its entry count to one. The thread is then the owner of the monitor.
• If the thread already owns the monitor associated with objectref, it reenters the monitor, incrementing its entry count.
• If another thread already owns the monitor associated with objectref, the thread blocks until the monitor’s entry count is zero, then tries again to gain ownership.

每個物件都有一個鎖，也就是監視器（monitor）。當monitor被佔有時就表示它被鎖定。執行緒執行monitorenter指令時嘗試獲取物件所對應的monitor的所有權，過程如下：

• 如果monitor的進入數為0，則該執行緒進入monitor，然後將進入數設定為1，該執行緒即為monitor的所有者;
• 如果執行緒已經擁有了該monitor，只是重新進入，則進入monitor的進入數加1;
• 如果其他執行緒已經佔用了monitor，則該執行緒進入阻塞狀態，直到monitor的進入數為0，再重新嘗試獲取monitor的所有權。

monitorexit

The objectref must be of type reference.

The thread that executes monitorexit must be the owner of the monitor associated with the instance referenced by objectref.

The thread decrements the entry count of the monitor associated with objectref. If as a result the value of the entry count is zero, the thread exits the monitor and is no longer its owner. Other threads that are blocking to enter the monitor are allowed to attempt to do so.

執行monitorexit的執行緒必須是相應的monitor的所有者。
指令執行時，monitor的進入數減1，如果減1後進入數為0，那執行緒退出monitor，不再是這個monitor的所有者。其他被這個monitor阻塞的執行緒可以嘗試去獲取這個monitor的所有權。

在JDK1.6及其之前的版本中monitorenter和monitorexit位元組碼依賴於底層的作業系統的Mutex Lock來實現的，但是由於使用Mutex Lock需要將當前執行緒掛起並從使用者態切換到核心態來執行，這種切換的代價是非常昂貴的。然而在現實中的大部分情況下，同步方法是執行在單執行緒環境（無鎖競爭環境）。如果每次都呼叫Mutex Lock將嚴重的影響程式的效能。因此在JDK 1.6之後的版本中對鎖的實現做了大量的優化，這些優化在很大程度上減少或避免了Mutex Lock的使用。

多程序的解決方案

在多道程式系統中存在許多程序，它們共享各種資源，然而有很多資源一次只能供一個程序使用，這便是臨界資源。多程序中的臨界資源大致上可以分為兩類，一類是物理上的真實資源，如印表機；一類是硬碟或記憶體中的共享資料，如共享記憶體等。而程序內互斥訪問臨界資源的程式碼被稱為臨界區。

針對臨界資源的互斥訪問，JVM層面的鎖就已經失去效力了。在多程序的情況下，主要還是利用作業系統層面的程序間通訊原理來解決臨界資源的搶佔問題。比較常見的一種方法便是使用訊號量（Semaphores）。

訊號量在POSIX標準下有兩種，分別為有名訊號量和無名訊號量。無名訊號量通常儲存在共享記憶體中，而有名訊號量是與一個特定的檔名稱相關聯。訊號量是一個整數變數，有計數訊號量和二值訊號量兩種。對訊號量的操作，主要是P操作（wait）和V操作（signal）。

• P操作：先檢查訊號量的大小，若值大於零，則將訊號量減1，同時程序獲得共享資源的訪問許可權，繼續執行；若小於或者等於零，則該程序被阻塞後，進入等待佇列。
• V操作：該操作將訊號量的值加1，如果有程序阻塞著等待該訊號量，那麼其中一個程序將被喚醒。

舉個例子，設訊號量為1，當一個程序A在進入臨界區之前，先進行P操作。發現值大於零，那麼就將訊號量減為0，進入臨界區執行。此時，若另一個程序B也要進去臨界區，進行P操作，發現訊號量等於0，則會被阻塞。當程序A退出臨界區時，會進行V操作，將訊號量的值加1，並喚醒阻塞的程序B。此時B就可以進入臨界區了。

這種方式，其實和多執行緒環境下的加解鎖非常類似。因此用訊號量處理臨界資源搶佔，也可以簡單地理解為對臨界區進行加鎖。

通過上面的一些瞭解，我們可以概括出解決互斥性問題，即資源搶佔的基本方式為：

對共享資源的操作前後（進入退出臨界區）加解鎖，保證不同執行緒或程序可以互斥有序的操作資源。

加解鎖方式，有顯式的加解鎖，如ReentrantLock或訊號量；也有隱式的加解鎖，如synchronized。那麼在分散式環境中，為了保證不同JVM不同主機間不會出現資源搶佔，那麼同樣只要對臨界區加解鎖就可以了。

然而在多執行緒和多程序中，鎖已經有比較完善的實現，直接使用即可。但是在分散式環境下，就需要我們自己來實現分散式鎖。

分散式環境下的解決方案——分散式鎖

首先，我們來看看分散式鎖的基本條件。

分散式鎖條件

基本條件

再回顧下多執行緒和多程序環境下的鎖，可以發現鎖的實現有很多共通之處，它們都需要滿足一些最基本的條件：

1. 需要有儲存鎖的空間，並且鎖的空間是可以訪問到的。
2. 鎖需要被唯一標識。
3. 鎖要有至少兩種狀態。

仔細分析這三個條件：

• 儲存空間

鎖是一個抽象的概念，鎖的實現，需要依存於一個可以儲存鎖的空間。在多執行緒中是記憶體，在多程序中是記憶體或者磁碟。更重要的是，這個空間是可以被訪問到的。多執行緒中，不同的執行緒都可以訪問到堆中的成員變數；在多程序中，不同的程序可以訪問到共享記憶體中的資料或者儲存在磁碟中的檔案。但是在分散式環境中，不同的主機很難訪問對方的記憶體或磁碟。這就需要一個都能訪問到的外部空間來作為儲存空間。

最普遍的外部儲存空間就是資料庫了，事實上也確實有基於資料庫做分散式鎖（行鎖、version樂觀鎖），如quartz叢集架構中就有所使用。除此以外，還有各式快取如Redis、Tair、Memcached、Mongodb，當然還有專門的分散式協調服務Zookeeper，甚至是另一臺主機。只要可以儲存資料、鎖在其中可以被多主機訪問到，那就可以作為分散式鎖的儲存空間。

• 唯一標識

不同的共享資源，必然需要用不同的鎖進行保護，因此相應的鎖必須有唯一的標識。在多執行緒環境中，鎖可以是一個物件，那麼對這個物件的引用便是這個唯一標識。多程序環境中，訊號量在共享記憶體中也是由引用來作為唯一的標識。但是如果不在記憶體中，失去了對鎖的引用，如何唯一標識它呢？上文提到的有名訊號量，便是用硬碟中的檔名作為唯一標識。因此，在分散式環境中，只要給這個鎖設定一個名稱，並且保證這個名稱是全域性唯一的，那麼就可以作為唯一標識。

• 至少兩種狀態

為了給臨界區加鎖和解鎖，需要儲存兩種不同的狀態。如ReentrantLock中的status，0表示沒有執行緒競爭，大於0表示有執行緒競爭；訊號量大於0表示可以進入臨界區，小於等於0則表示需要被阻塞。因此只要在分散式環境中，鎖的狀態有兩種或以上：如有鎖、沒鎖；存在、不存在等，均可以實現。

有了這三個條件，基本就可以實現一個簡單的分散式鎖了。下面以資料庫為例，實現一個簡單的分散式鎖：
資料庫表，欄位為鎖的ID（唯一標識），鎖的狀態（0表示沒有被鎖，1表示被鎖）。

虛擬碼為：

lock = mysql.get(id);
while(lock.status == 1) {
    sleep(100);
}
mysql.update(lock.status = 1);
doSomething();
mysql.update(lock.status = 0);

問題

以上的方式即可以實現一個粗糙的分散式鎖，但是這樣的實現，有沒有什麼問題呢？

• 問題1：鎖狀態判斷原子性無法保證
  從讀取鎖的狀態，到判斷該狀態是否為被鎖，需要經歷兩步操作。如果不能保證這兩步的原子性，就可能導致不止一個請求獲取到了鎖，這顯然是不行的。因此，我們需要保證鎖狀態判斷的原子性。

• 問題2：網路斷開或主機宕機，鎖狀態無法清除
  假設在主機已經獲取到鎖的情況下，突然出現了網路斷開或者主機宕機，如果不做任何處理該鎖將仍然處於被鎖定的狀態。那麼之後所有的請求都無法再成功搶佔到這個鎖。因此，我們需要在持有鎖的主機宕機或者網路斷開的時候，及時的釋放掉這把鎖。

• 問題3：無法保證釋放的是自己上鎖的那把鎖
  在解決了問題2的情況下再設想一下，假設持有鎖的主機A在臨界區遇到網路抖動導致網路斷開，分散式鎖及時的釋放掉了這把鎖。之後，另一個主機B佔有了這把鎖，但是此時主機A網路恢復，退出臨界區時解鎖。由於都是同一把鎖，所以A就會將B的鎖解開。此時如果有第三個主機嘗試搶佔這把鎖，也將會成功獲得。因此，我們需要在解鎖時，確定自己解的這個鎖正是自己鎖上的。

進階條件

如果分散式鎖的實現，還能再解決上面的三個問題，那麼就可以算是一個相對完整的分散式鎖了。然而，在實際的系統環境中，還會對分散式鎖有更高階的要求。

1. 可重入：執行緒中的可重入，指的是外層函式獲得鎖之後，內層也可以獲得鎖，ReentrantLock和synchronized都是可重入鎖；衍生到分散式環境中，一般仍然指的是執行緒的可重入，在絕大多數分散式環境中，都要求分散式鎖是可重入的。

2. 驚群效應（Herd Effect）：在分散式鎖中，驚群效應指的是，在有多個請求等待獲取鎖的時候，一旦佔有鎖的執行緒釋放之後，如果所有等待的方都同時被喚醒，嘗試搶佔鎖。但是這樣的情況會造成比較大的開銷，那麼在實現分散式鎖的時候，應該儘量避免驚群效應的產生。

3. 公平鎖和非公平鎖：不同的需求，可能需要不同的分散式鎖。非公平鎖普遍比公平鎖開銷小。但是業務需求如果必須要鎖的競爭者按順序獲得鎖，那麼就需要實現公平鎖。

4. 阻塞鎖和自旋鎖：針對不同的使用場景，阻塞鎖和自旋鎖的效率也會有所不同。阻塞鎖會有上下文切換，如果併發量比較高且臨界區的操作耗時比較短，那麼造成的效能開銷就比較大了。但是如果臨界區操作耗時比較長，一直保持自旋，也會對CPU造成更大的負荷。

保留以上所有問題和條件，我們接下來看一些比較典型的實現方案。

典型實現

ZooKeeper的實現

ZooKeeper（以下簡稱“ZK”）中有一種節點叫做順序節點，假如我們在/lock/目錄下建立3個節點，ZK叢集會按照發起建立的順序來建立節點，節點分別為/lock/0000000001、/lock/0000000002、/lock/0000000003。

ZK中還有一種名為臨時節點的節點，臨時節點由某個客戶端建立，當客戶端與ZK叢集斷開連線，則該節點自動被刪除。EPHEMERAL_SEQUENTIAL為臨時順序節點。

根據ZK中節點是否存在，可以作為分散式鎖的鎖狀態，以此來實現一個分散式鎖，下面是分散式鎖的基本邏輯：

1. 客戶端呼叫create()方法建立名為“/dlm-locks/lockname/lock-”的臨時順序節點。
2. 客戶端呼叫getChildren(“lockname”)方法來獲取所有已經建立的子節點。
3. 客戶端獲取到所有子節點path之後，如果發現自己在步驟1中建立的節點是所有節點中序號最小的，那麼就認為這個客戶端獲得了鎖。
4. 如果建立的節點不是所有節點中需要最小的，那麼則監視比自己建立節點的序列號小的最大的節點，進入等待。直到下次監視的子節點變更的時候，再進行子節點的獲取，判斷是否獲取鎖。

釋放鎖的過程相對比較簡單，就是刪除自己建立的那個子節點即可，不過也仍需要考慮刪除節點失敗等異常情況。

Menagerie中的lock首先實現了可重入鎖，利用ThreadLocal儲存進入的次數，每次加鎖次數加1，每次解鎖次數減1。如果判斷出是當前執行緒持有鎖，就不用走獲取鎖的流程。

通過tryAcquireDistributed方法嘗試獲取鎖，迴圈判斷前序節點是否存在，如果存在則監視該節點並且返回獲取失敗。如果前序節點不存在，則再判斷更前一個節點。如果判斷出自己是第一個節點，則返回獲取成功。

為了在別的執行緒佔有鎖的時候阻塞，程式碼中使用JUC的condition來完成。如果獲取嘗試鎖失敗，則進入等待且放棄localLock，等待前序節點喚醒。而localLock是一個本地的公平鎖，使得condition可以公平的進行喚醒，配合迴圈判斷前序節點，實現了一個公平鎖。

這種實現方式非常類似於ReentrantLock的CHL佇列，而且zk的臨時節點可以直接避免網路斷開或主機宕機，鎖狀態無法清除的問題，順序節點可以避免驚群效應。這些特性都使得利用ZK實現分散式鎖成為了最普遍的方案之一。

Redis的實現

Redis的分散式快取特性使其成為了分散式鎖的一種基礎實現。通過Redis中是否存在某個鎖ID，則可以判斷是否上鎖。為了保證判斷鎖是否存在的原子性，保證只有一個執行緒獲取同一把鎖，Redis有SETNX（即SET if Not
eXists）和GETSET（先寫新值，返回舊值，原子性操作，可以用於分辨是不是首次操作）操作。

為了防止主機宕機或網路斷開之後的死鎖，Redis沒有ZK那種天然的實現方式，只能依賴設定超時時間來規避。

以下是一種比較普遍但不太完善的Redis分散式鎖的實現步驟（與下圖一一對應）：

1. 執行緒A傳送SETNX lock.orderid嘗試獲得鎖，如果鎖不存在，則set並獲得鎖。
2. 如果鎖存在，則再判斷鎖的值（時間戳）是否大於當前時間，如果沒有超時，則等待一下再重試。
3. 如果已經超時了，在用GETSET lock.{orderid}來嘗試獲取鎖，如果這時候拿到的時間戳仍舊超時，則說明已經獲得鎖了。
4. 如果在此之前，另一個執行緒C快一步執行了上面的操作，那麼A拿到的時間戳是個未超時的值，這時A沒有如期獲得鎖，需要再次等待或重試。

該實現還有一個需要考慮的問題是全域性時鐘問題，由於生產環境主機時鐘不能保證完全同步，對時間戳的判斷也可能會產生誤差。

以上是Redis的一種常見的實現方式，除此以外還可以用SETNX+EXPIRE來實現。Redisson是一個官方推薦的Redis客戶端並且實現了很多分散式的功能。它的分散式鎖就提供了一種更完善的解決方案，原始碼：https://github.com/mrniko/redisson。

Tair的實現

Tair和Redis的實現類似，Tair客戶端封裝了一個expireLock的方法：通過鎖狀態和過期時間戳來共同判斷鎖是否存在，只有鎖已經存在且沒有過期的狀態才判定為有鎖狀態。在有鎖狀態下，不能加鎖，能通過大於或等於過期時間的時間戳進行解鎖。

採用這樣的方式，可以不用在Value中儲存時間戳，並且保證了判斷是否有鎖的原子性。更值得注意的是，由於超時時間是由Tair判斷，所以避免了不同主機時鐘不一致的情況。

以上的幾種分散式鎖實現方式，都是比較常見且有些已經在生產環境中應用。隨著應用環境越來越複雜，這些實現可能仍然會遇到一些挑戰。

• 強依賴於外部元件：分散式鎖的實現都需要依賴於外部資料儲存如ZK、Redis等，因此一旦這些外部元件出現故障，那麼分散式鎖就不可用了。
• 無法完全滿足需求：不同分散式鎖的實現，都有相應的特點，對於一些需求並不能很好的滿足，如實現公平鎖、給等待鎖加超時時間等。

基於以上問題，結合多種實現方式，我們開發了Cerberus（得名自希臘神話裡守衛地獄的猛犬），致力於提供靈活可靠的分散式鎖。

Cerberus分散式鎖

Cerberus有以下幾個特點。

特點一：一套介面多種引擎

Cerberus分散式鎖使用了多種引擎實現方式（Tair、ZK、未來支援Redis），支援使用方自主選擇所需的一種或多種引擎。這樣可以結合引擎特點，選擇符合實際業務需求和系統架構的方式。

Cerberus分散式鎖將不同引擎的介面抽象為一套，遮蔽了不同引擎的實現細節。使得使用方可以專注於業務邏輯，也可以任意選擇並切換引擎而不必更改任何的業務程式碼。

如果使用方選擇了一種以上的引擎，那麼以配置順序來區分主副引擎。以下是使用主引擎的推薦：

特點二：使用靈活、學習成本低

下面是Cerberus的lock方法，這些方法和JUC的ReentrantLock的方式保持一致，使用非常靈活且不需要額外的學習時間。

• void lock();
  獲取鎖，如果鎖被佔用，將禁用當前執行緒，並且在獲得鎖之前，該執行緒將一直處於阻塞狀態。

• boolean tryLock();
  僅在呼叫時鎖為空閒狀態才獲取該鎖。
  如果鎖可用，則獲取鎖，並立即返回值true。如果鎖不可用，則此方法將立即返回值false。

• boolean tryLock(long time, TimeUnit unit) throws InterruptedException;
  如果鎖在給定的等待時間內空閒，並且當前執行緒未被中斷，則獲取鎖。
  如果在給定時間內鎖可用，則獲取鎖，並立即返回值true。如果在給定時間內鎖一直不可用，則此方法將立即返回值false。

• void lockInterruptibly() throws InterruptedException;
  獲取鎖，如果鎖被佔用，則一直等待直到執行緒被中斷或者獲取到鎖。

• void unlock();
  釋放當前持有的鎖。

特點三：支援一鍵降級

Cerberus提供了實時切換引擎的介面:

• String switchEngine()
  轉換分散式鎖引擎，按配置的引擎的順序迴圈轉換。
  返回值：返回當前的engine名字，如：”zk”。

• String switchEngine(String engineName)
  轉換分散式鎖引擎，切換為指定的引擎。
  引數：engineName - 引擎的名字，同配置bean的名字，”zk”/”tair”。
  返回值：返回當前的engine名字，如：”zk”。

當使用方選擇了兩種引擎，平時分散式鎖會工作在主引擎上。一旦所依賴的主引擎出現故障，那麼使用方可以通過自動或者手動方式呼叫該切換引擎介面，平滑的將分散式鎖切換到另一個引擎上以將風險降到最低。自動切換方式可以利用Hystrix實現。手動切換推薦的一個方案則是使用美團點評基於Zookeeper的基礎元件MCC，通過監聽MCC配置項更改，來達到手動將分散式系統所有主機同步切換引擎的目的。需要注意的是，切換引擎目前並不會遷移原引擎已有的鎖。這樣做的目的是出於必要性、系統複雜度和可靠性的綜合考慮。在實際情況下，引擎故障到切換引擎，尤其是手動切換引擎的時間，要遠大於分散式鎖的存活時間。作為較輕量級的Cerberus來說，遷移鎖會帶來不必要的開銷以及較高的系統複雜度。鑑於此，如果想要保證在引擎故障後的絕對可靠，那麼則需要結合其他方案來進行處理。

除此以外，Cerberus還提供了內建公用叢集，免去搭建和配置叢集的煩惱。Cerberus也有一套完善的應用授權機制，以此防止業務方未經評估使用，對叢集造成影響。

目前，Cerberus分散式鎖已經持續迭代了8個版本，先後在美團點評多個專案中穩定執行。

冪等性問題

所謂冪等，簡單地說，就是對介面的多次呼叫所產生的結果和呼叫一次是一致的。擴充套件一下，這裡的介面，可以理解為對外發布的HTTP介面或者Thrift介面，也可以是接收訊息的內部介面，甚至是一個內部方法或操作。

那麼我們為什麼需要介面具有冪等性呢？設想一下以下情形：

• 在App中下訂單的時候，點選確認之後，沒反應，就又點選了幾次。在這種情況下，如果無法保證該介面的冪等性，那麼將會出現重複下單問題。
• 在接收訊息的時候，訊息推送重複。如果處理訊息的介面無法保證冪等，那麼重複消費訊息產生的影響可能會非常大。

在分散式環境中，網路環境更加複雜，因前端操作抖動、網路故障、訊息重複、響應速度慢等原因，對介面的重複呼叫概率會比集中式環境下更大，尤其是重複訊息在分散式環境中很難避免。Tyler Treat也在《You Cannot Have Exactly-Once Delivery》一文中提到：

Within the context of a distributed system, you cannot have exactly-once message delivery.

分散式環境中，有些介面是天然保證冪等性的，如查詢操作。有些對資料的修改是一個常量，並且無其他記錄和操作，那也可以說是具有冪等性的。其他情況下，所有涉及對資料的修改、狀態的變更就都有必要防止重複性操作的發生。通過間接的實現介面的冪等性來防止重複操作所帶來的影響，成為了一種有效的解決方案。

GTIS

GTIS就是這樣的一個解決方案。它是一個輕量的重複操作關卡系統，它能夠確保在分散式環境中操作的唯一性。我們可以用它來間接保證每個操作的冪等性。它具有如下特點：

• 高效：低延時，單個方法平均響應時間在2ms內，幾乎不會對業務造成影響；
• 可靠：提供降級策略，以應對外部儲存引擎故障所造成的影響；提供應用鑑權，提供叢集配置自定義，降低不同業務之間的干擾；
• 簡單：接入簡捷方便，學習成本低。只需簡單的配置，在程式碼中進行兩個方法的呼叫即可完成所有的接入工作；
• 靈活：提供多種介面引數、使用策略，以滿足不同的業務需求。

實現原理

基本原理

GTIS的實現思路是將每一個不同的業務操作賦予其唯一性。這個唯一性是通過對不同操作所對應的唯一的內容特性生成一個唯一的全域性ID來實現的。基本原則為：相同的操作生成相同的全域性ID；不同的操作生成不同的全域性ID。

生成的全域性ID需要儲存在外部儲存引擎中，資料庫、Redis亦或是Tair等均可實現。考慮到Tair天生分散式和持久化的優勢，目前的GTIS儲存在Tair中。其相應的key和value如下：

• key：將對於不同的業務，採用APP_KEY+業務操作內容特性生成一個唯一標識trans_contents。然後對唯一標識進行加密生成全域性ID作為Key。
• value：current_timestamp + trans_contents，current_timestamp用於標識當前的操作執行緒。

判斷是否重複，主要利用Tair的SETNX方法，如果原來沒有值則set且返回成功，如果已經有值則返回失敗。

內部流程

GTIS的內部實現流程為：

1. 業務方在業務操作之前，生成一個能夠唯一標識該操作的transContents，傳入GTIS；
2. GTIS根據傳入的transContents，用MD5生成全域性ID；
3. GTIS將全域性ID作為key，current_timestamp+transContents作為value放入Tair進行setNx，將結果返回給業務方；
4. 業務方根據返回結果確定能否開始進行業務操作；
5. 若能，開始進行操作；若不能，則結束當前操作；
6. 業務方將操作結果和請求結果傳入GTIS，系統進行一次請求結果的檢驗；
7. 若該次操作成功，GTIS根據key取出value值，跟傳入的返回結果進行比對，如果兩者相等，則將該全域性ID的過期時間改為較長時間；
8. GTIS返回最終結果。

實現難點

GTIS的實現難點在於如何保證其判斷重複的可靠性。由於分散式環境的複雜度和業務操作的不確定性，在上一章節分散式鎖的實現中考慮的網路斷開或主機宕機等問題，同樣需要在GTIS中設法解決。這裡列出幾個典型的場景：

• 如果操作執行失敗，理想的情況應該是另一個相同的操作可以立即進行。因此，需要對業務方的操作結果進行判斷，如果操作失敗，那麼就需要立即刪除該全域性ID；

• 如果操作超時或主機宕機，當前的操作無法告知GTIS操作是否成功。那麼我們必須引入超時機制，一旦長時間獲取不到業務方的操作反饋，那麼也需要該全域性ID失效；

• 結合上兩個場景，既然全域性ID會失效並且可能會被刪除，那就需要保證刪除的不是另一個相同操作的全域性ID。這就需要將特殊的標識記錄下來，並由此來判斷。這裡所用的標識為當前時間戳。

可以看到，解決這些問題的思路，也和上一章節中的實現有很多類似的地方。除此以外，還有更多的場景需要考慮和解決，所有分支流程如下:

使用說明

使用時，業務方只需要在操作的前後呼叫GTIS的前置方法和後置方法，如下圖所示。如果前置方法返回可進行操作，則說明此時無重複操作，可以進行。否則則直接結束操作。

使用方需要考慮的主要是下面兩個引數：

• 空間全域性性：業務方輸入的能夠標誌操作唯一性的內容特性，可以是唯一性的String型別的ID，也可以是map、POJO等形式。如訂單ID等
• 時間全域性性：確定在多長時間內不允許重複，1小時內還是一個月內亦或是永久。

此外，GTIS還提供了不同的故障處理策略和重試機制，以此來降低外部儲存引擎異常對系統造成的影響。

目前，GTIS已經持續迭代了7個版本，距離第一個版本有近1年之久，先後在美團點評多個專案中穩定執行。

結語

在分散式環境中，操作互斥性問題和冪等性問題非常普遍。經過分析，我們找出瞭解決這兩個問題的基本思路和實現原理，給出了具體的解決方案。

針對操作互斥性問題，常見的做法便是通過分散式鎖來處理對共享資源的搶佔。分散式鎖的實現，很大程度借鑑了多執行緒和多程序環境中的互斥鎖的實現原理。只要滿足一些儲存方面的基本條件，並且能夠解決如網路斷開等異常情況，那麼就可以實現一個分散式鎖。目前已經有基於Zookeeper和Redis等儲存引擎的比較典型的分散式鎖實現。但是由於單儲存引擎的侷限，我們開發了基於ZooKeeper和Tair的多引擎分散式鎖Cerberus，它具有使用靈活方便等諸多優點，還提供了完善的一鍵降級方案。

針對操作冪等性問題，我們可以通過防止重複操作來間接的實現介面的冪等性。GTIS提供了一套可靠的解決方法：依賴於儲存引擎，通過對不同操作所對應的唯一的內容特性生成一個唯一的全域性ID來防止操作重複。

目前Cerberus分散式鎖、GTIS都已應用在生產環境並平穩執行。兩者提供的解決方案已經能夠解決大多數分散式環境中的操作互斥性和冪等性的問題。值得一提的是，分散式鎖和GTIS都不是萬能的，它們對外部儲存系統的強依賴使得在環境不那麼穩定的情況下，對可靠性會造成一定的影響。在併發量過高的情況下，如果不能很好的控制鎖的粒度，那麼使用分散式鎖也是不太合適的。總的來說，分散式環境下的業務場景紛繁複雜，要解決互斥性和冪等性問題還需要結合當前系統架構、業務需求和未來演進綜合考慮。Cerberus分散式鎖和GTIS也會持續不斷地迭代更新，提供更多的引擎選擇、更高效可靠的實現方式、更簡捷的接入流程，以期滿足更復雜的使用場景和業務需求。

宣告：本文為CSDN原創投稿文章，未經許可，禁止任何形式的轉載。
作者：蔣諝
責編：錢曙光，關注架構和演算法領域，尋求報道或者投稿請發郵件[email protected]，另有「CSDN 高階架構師群」，內有諸多知名網際網路公司的大牛架構師，歡迎架構師加微信qshuguang2008申請入群，備註姓名+公司+職位。