1. 程式人生 > >JAVA synchronized和lock的實現原理

JAVA synchronized和lock的實現原理

目前在Java中存在兩種鎖機制:synchronized和Lock,Lock介面及其實現類是JDK5增加的內容,其作者是大名鼎鼎的併發專家Doug Lea。本文並不比較synchronized與Lock孰優孰劣,只是介紹二者的實現原理。

資料同步需要依賴鎖,那鎖的同步又依賴誰?synchronized給出的答案是在軟體層面依賴JVM,而Lock給出的方案是在硬體層面依賴特殊的CPU指令,大家可能會進一步追問:JVM底層又是如何實現synchronized的?

一、synchronized的實現:

synrhronized關鍵字簡潔、清晰、語義明確,因此即使有了Lock介面,使用的還是非常廣泛。其應用層的語義是可以把任何一個非null物件 作為"鎖",當synchronized作用在方法上時,鎖住的便是物件例項(this);當作用在靜態方法時鎖住的便是物件對應的Class例項,因為 Class資料存在於永久帶,因此靜態方法鎖相當於該類的一個全域性鎖;當synchronized作用於某一個物件例項時,鎖住的便是對應的程式碼塊。在 HotSpot JVM實現中,鎖有個專門的名字:物件監視器。 

在java虛擬機器中,每個物件和類在邏輯上都是和一個監視器相關聯的。 
對於物件來說,相關聯的監視器保護物件的例項變數。 
對於類來說,監視器保護類的類變數。

1. 執行緒狀態及狀態轉換

當多個執行緒同時請求某個物件監視器時,物件監視器會設定幾種狀態用來區分請求的執行緒:

Contention List:所有請求鎖的執行緒將被首先放置到該競爭佇列

Entry List:Contention List中那些有資格成為候選人的執行緒被移到Entry List

Wait Set:那些呼叫wait方法被阻塞的執行緒被放置到Wait Set

OnDeck:任何時刻最多隻能有一個執行緒正在競爭鎖,該執行緒稱為OnDeck

Owner:獲得鎖的執行緒稱為Owner

!Owner:釋放鎖的執行緒

下圖反映了個狀態轉換關係:

JVM底層又是如何實現synchronized的

新請求鎖的執行緒將首先被加入到ConetentionList中,當某個擁有鎖的執行緒(Owner狀態)呼叫unlock之後,如果發現 EntryList為空則從ContentionList中移動執行緒到EntryList,下面說明下ContentionList和EntryList 的實現方式:

1.1 ContentionList虛擬佇列

ContentionList並不是一個真正的Queue,而只是一個虛擬佇列,原因在於ContentionList是由Node及其next指 針邏輯構成,並不存在一個Queue的

資料結構。ContentionList是一個後進先出(LIFO)的佇列,每次新加入Node時都會在隊頭進行, 通過CAS改變第一個節點的的指標為新增節點,同時設定新增節點的next指向後續節點,而取得操作則發生在隊尾。顯然,該結構其實是個Lock- Free的佇列。

因為只有Owner執行緒才能從隊尾取元素,也即執行緒出列操作無爭用,當然也就避免了CAS的ABA問題。

JVM底層又是如何實現synchronized的

1.2 EntryList

EntryList與ContentionList邏輯上同屬等待佇列,ContentionList會被執行緒併發訪問,為了降低對 ContentionList隊尾的爭用,而建立EntryList。Owner執行緒在unlock時會從ContentionList中遷移執行緒到 EntryList,並會指定EntryList中的某個執行緒(一般為Head)為Ready(OnDeck)執行緒。Owner執行緒並不是把鎖傳遞給 OnDeck執行緒,只是把競爭鎖的權利交給OnDeck,OnDeck執行緒需要重新競爭鎖。這樣做雖然犧牲了一定的公平性,但極大的提高了整體吞吐量,在 Hotspot中把OnDeck的選擇行為稱之為“競爭切換”。

OnDeck執行緒獲得鎖後即變為owner執行緒,無法獲得鎖則會依然留在EntryList中,考慮到公平性,在EntryList中的位置不 發生變化(依然在隊頭)。如果Owner執行緒被wait方法阻塞,則轉移到WaitSet佇列;如果在某個時刻被notify/notifyAll喚醒, 則再次轉移到EntryList。

2. 自旋鎖

那些處於ContetionList、EntryList、WaitSet中的執行緒均處於阻塞狀態,阻塞操作由作業系統完成(在Linxu下通 過pthread_mutex_lock函式)。執行緒被阻塞後便進入核心(Linux)排程狀態,這個會導致系統在使用者態與核心態之間來回切換,嚴重影響 鎖的效能

緩解上述問題的辦法便是自旋,其原理是:當發生爭用時,若Owner執行緒能在很短的時間內釋放鎖,則那些正在爭用執行緒可以稍微等一等(自旋), 在Owner執行緒釋放鎖後,爭用執行緒可能會立即得到鎖,從而避免了系統阻塞。但Owner執行的時間可能會超出了臨界值,爭用執行緒自旋一段時間後還是無法 獲得鎖,這時爭用執行緒則會停止自旋進入阻塞狀態(後退)。基本思路就是自旋,不成功再阻塞,儘量降低阻塞的可能性,這對那些執行時間很短的程式碼塊來說有非 常重要的效能提高。自旋鎖有個更貼切的名字:自旋-指數後退鎖,也即複合鎖。很顯然,自旋在多處理器上才有意義。

還有個問題是,執行緒自旋時做些啥?其實啥都不做,可以執行幾次for迴圈,可以執行幾條空的彙編指令,目的是佔著CPU不放,等待獲取鎖的機 會。所以說,自旋是把雙刃劍,如果旋的時間過長會影響整體效能,時間過短又達不到延遲阻塞的目的。顯然,自旋的週期選擇顯得非常重要,但這與作業系統、硬 件體系、系統的負載等諸多場景相關,很難選擇,如果選擇不當,不但效能得不到提高,可能還會下降,因此大家普遍認為自旋鎖不具有擴充套件性。

自旋優化策略

對自旋鎖週期的選擇上,HotSpot認為最佳時間應是一個執行緒上下文切換的時間,但目前並沒有做到。經過調查,目前只是通過彙編暫停了幾個CPU週期,除了自旋週期選擇,HotSpot還進行許多其他的自旋優化策略,具體如下:

如果平均負載小於CPUs則一直自旋

如果有超過(CPUs/2)個執行緒正在自旋,則後來執行緒直接阻塞

如果正在自旋的執行緒發現Owner發生了變化則延遲自旋時間(自旋計數)或進入阻塞

如果CPU處於節電模式則停止自旋

自旋時間的最壞情況是CPU的儲存延遲(CPU A儲存了一個數據,到CPU B得知這個資料直接的時間差)

自旋時會適當放棄執行緒優先順序之間的差異

那synchronized實現何時使用了自旋鎖?答案是線上程進入ContentionList時,也即第一步操作前。執行緒在進入等待佇列時 首先進行自旋嘗試獲得鎖,如果不成功再進入等待佇列。這對那些已經在等待佇列中的執行緒來說,稍微顯得不公平。還有一個不公平的地方是自旋執行緒可能會搶佔了 Ready執行緒的鎖。自旋鎖由每個監視物件維護,每個監視物件一個。

3. JVM1.6偏向鎖

在JVM1.6中引入了偏向鎖,偏向鎖主要解決無競爭下的鎖效能問題,首先我們看下無競爭下鎖存在什麼問題:

現在幾乎所有的鎖都是可重入的,也即已經獲得鎖的執行緒可以多次鎖住/解鎖監視物件,按照之前的HotSpot設計,每次加鎖/解鎖都會涉及到一些CAS操 作(比如對等待佇列的CAS操作),CAS操作會延遲本地呼叫,因此偏向鎖的想法是一旦執行緒第一次獲得了監視物件,之後讓監視物件“偏向”這個 執行緒,之後的多次呼叫則可以避免CAS操作,說白了就是置個變數,如果發現為true則無需再走各種加鎖/解鎖流程。但還有很多概念需要解釋、很多引入的 問題需要解決:

3.1 CASSMP架構

CAS為什麼會引入本地延遲?這要從SMP(對稱多處理器)架構說起,下圖大概表明了SMP的結構:

JVM底層又是如何實現synchronized的

其意思是所有的CPU會共享一條系統匯流排(BUS),靠此匯流排連線主存。每個核都有自己的一級快取,各核相對於BUS對稱分佈,因此這種結構稱為“對稱多處理器”。

而CAS的全稱為Compare-And-Swap,是一條CPU的原子指令,其作用是讓CPU比較後原子地更新某個位置的值,經過調查發現, 其實現方式是基於硬體平臺的彙編指令,就是說CAS是靠硬體實現的,JVM只是封裝了彙編呼叫,那些AtomicInteger類便是使用了這些封裝後的 介面。

Core1和Core2可能會同時把主存中某個位置的值Load到自己的L1 Cache中,當Core1在自己的L1 Cache中修改這個位置的值時,會通過匯流排,使Core2中L1 Cache對應的值“失效”,而Core2一旦發現自己L1 Cache中的值失效(稱為Cache命中缺失)則會通過匯流排從記憶體中載入該地址最新的值,大家通過匯流排的來回通訊稱為“Cache一致性流量”,因為總 線被設計為固定的“通訊能力”,如果Cache一致性流量過大,匯流排將成為瓶頸。而當Core1和Core2中的值再次一致時,稱為“Cache一致 性”,從這個層面來說,鎖設計的終極目標便是減少Cache一致性流量。

而CAS恰好會導致Cache一致性流量,如果有很多執行緒都共享同一個物件,當某個Core CAS成功時必然會引起匯流排風暴,這就是所謂的本地延遲,本質上偏向鎖就是為了消除CAS,降低Cache一致性流量。

Cache一致性:

上面提到Cache一致性,其實是有協議支援的,現在通用的協議是MESI(最早由Intel開始支援),具體參考:http://en.wikipedia.org/wiki/MESI_protocol,以後會仔細講解這部分。

Cache一致性流量的例外情況:

NUMA(Non Uniform Memory Access Achitecture)架構:

與SMP對應還有非對稱多處理器架構,現在主要應用在一些高階處理器上,主要特點是沒有匯流排,沒有公用主存,每個Core有自己的記憶體,針對這種結構此處不做討論。

3.2 偏向解除

偏向鎖引入的一個重要問題是,在多爭用的場景下,如果另外一個執行緒爭用偏向物件,擁有者需要釋放偏向鎖,而釋放的過程會帶來一些效能開銷,但總體說來偏向鎖帶來的好處還是大於CAS代價的。

4. 總結

關於鎖,JVM中還引入了一些其他技術比如鎖膨脹等,這些與自旋鎖、偏向鎖相比影響不是很大,這裡就不做介紹。

通過上面的介紹可以看出,synchronized的底層實現主要依靠Lock-Free的佇列,基本思路是自旋後阻塞,競爭切換後繼續競爭鎖,稍微犧牲了公平性,但獲得了高吞吐量。

二、lock的實現

前文(深入JVM鎖機制-synchronized)分析了JVM中的synchronized實現,本文繼續分析JVM中的另一種鎖Lock的實現。與synchronized不同的是,Lock完全用Java寫成,在java這個層面是無關JVM實現的。 
在 java.util.concurrent.locks包中有很多Lock的實現類,常用的有ReentrantLock、 ReadWriteLock(實現類ReentrantReadWriteLock),其實現都依賴 java.util.concurrent.AbstractQueuedSynchronizer類,實現思路都大同小異,因此我們以 ReentrantLock作為講解切入點。
1、ReentrantLock的呼叫過程 經過觀察ReentrantLock把所有Lock介面的操作都委派到一個Sync類上,該類繼承了AbstractQueuedSynchronizer: 
static abstract class Sync extends AbstractQueuedSynchronizer  Sync又有兩個子類:
final static class NonfairSync extends Sync   view plain 
final static class FairSync extends Sync   
顯然是為了支援公平鎖和非公平鎖而定義,預設情況下為非公平鎖。


其實通過上面呼叫過程及AbstractQueuedSynchronizer的註釋可以發現,AbstractQueuedSynchronizer中抽象了絕大多數Lock的功能,而只把tryAcquire方法延遲到子類中實現。 tryAcquire方法的語義在於用具體子類判斷請求執行緒是否可以獲得鎖,無論成功與否AbstractQueuedSynchronizer都將處理後面的流程。

2、鎖實現

簡單說來,AbstractQueuedSynchronizer會把所有的請求執行緒構成一個CLH佇列,當一個執行緒執行完畢(lock.unlock())時會啟用自己的後繼節點,但正在執行的執行緒並不在佇列中,而那些等待執行的執行緒全 部處於阻塞狀態,經過調查執行緒的顯式阻塞是通過呼叫LockSupport.park()完成,而LockSupport.park()則呼叫 sun.misc.Unsafe.park()本地方法,再進一步,HotSpot在linux中中通過呼叫pthread_mutex_lock函式把 執行緒交給系統核心進行阻塞。


與synchronized相同的是,這也是一個虛擬佇列,不存在佇列例項,僅存在節點之間的前後關係。令人疑惑的是為什麼採用CLH佇列呢?原生的CLH佇列是用於自旋鎖,但Doug Lea把其改造為阻塞鎖。 
當有執行緒競爭鎖時,該執行緒會首先嚐試獲得鎖,這對於那些已經在佇列中排隊的執行緒來說顯得不公平,這也是非公平鎖的由來,與synchronized實現類似,這樣會極大提高吞吐量。 如果已經存在Running執行緒,則新的競爭執行緒會被追加到隊尾,具體是採用基於CAS的Lock-Free演算法,因為執行緒併發對Tail呼叫CAS可能會 導致其他執行緒CAS失敗,解決辦法是迴圈CAS直至成功。

AbstractQueuedSynchronizer通過構造一個基於阻塞的CLH佇列容納所有的阻塞執行緒,而對該佇列的操作均通過Lock-Free(CAS)操作,但對已經獲得鎖的執行緒而言,ReentrantLock實現了偏向鎖的功能。 
synchronized 的底層也是一個基於CAS操作的等待佇列,但JVM實現的更精細,把等待佇列分為ContentionList和EntryList,目的是為了降低執行緒的出列速度;當然也實現了偏向鎖,從資料結構來說二者設計沒有本質區別。但synchronized還實現了自旋鎖,並針對不同的系統和硬體體系進行了優 化,而Lock則完全依靠系統阻塞掛起等待執行緒。 
當然Lock比synchronized更適合在應用層擴充套件,可以繼承 AbstractQueuedSynchronizer定義各種實現,比如實現讀寫鎖(ReadWriteLock),公平或不公平鎖;同時,Lock對 應的Condition也比wait/notify要方便的多、靈活的多。

相關推薦

JAVA synchronizedlock實現原理

目前在Java中存在兩種鎖機制:synchronized和Lock,Lock介面及其實現類是JDK5增加的內容,其作者是大名鼎鼎的併發專家Doug Lea。本文並不比較synchronized與Lock孰優孰劣,只是介紹二者的實現原理。 資料同步需要依賴鎖,那鎖的同步又依賴誰?synchronized

synchronizedlock實現迴圈列印AB

以前一直對多執行緒這一塊很模糊,平時工作中也很少用到(技術太渣),閒來無事就寫了一下面試經常會讓手寫的迴圈列印。兩個執行緒中傳入了同一個物件,所以如果一個執行緒加鎖之後,另一個執行緒就不可以訪問該物件所擁有的所有同步方法,就是用這種思想,實現了下面的迴圈列印。1、用Lock實

Java Synchronized 鎖的實現原理與應用 (偏向鎖,輕量鎖,重量鎖)

edm star 使用場景 安全 amp add [] 升級 ddr 簡介 在Java SE 1.6之前,Synchronized被稱為重量級鎖.在SE 1.6之後進行了各種優化,就出現了偏向鎖,輕量鎖,目的是為了減少獲得鎖和釋放鎖帶來的性能消耗. Synchroiz

synchronizedlock實現原理

本文轉載自http://wenku.baidu.com/view/41480552f01dc281e53af090.html?re=view 目前在Java中存在兩種鎖機制:synchronized和Lock,Lock介面及其實現類是JDK5增加的內容,其作者是大名鼎鼎

Java多執行緒程式設計-(13)-從volatilesynchronized的底層實現原理Java虛擬機器對鎖優化所做的努力

一、背景 對於Java來說我們知道,Java程式碼首先會編譯成Java位元組碼,位元組碼被類載入器載入到JVM裡,JVM執行位元組碼,最終需要轉化為彙編指令在CPU上進行執行。 Java中所使用

Java並發機制底層實現原理

差距 32處理器 們的 trac 結點 exce jdk cep 定性   Java代碼在編譯後會變成Java字節碼,字節碼被類加載器加載到JVM裏,JVM執行字節碼轉化為匯編指令在CPU上執行。Java中的並發機制依賴於JVM的實現和CPU的指令。      Java語言

java面試題之synchronizedlock有什麽區別

作用範圍 out inter mutex 虛擬 add moni 私有 p s synchronized和lock的區別: 類別 synchronized lock 存在層次 java的關鍵字,在jvm層面上 是一個類 鎖的釋放

Java鎖--Lock實現原理(底層實現)

關於java lock的底層實現原理,講的有點深,轉載學習! Lock完全用Java寫成,在java這個層面是無關JVM實現的。 在java.util.concurrent.locks包中有很多Lock的實現類,常用的有ReentrantLock、ReadWr

演算法---hash演算法原理(java中HashMap底層實現原理原始碼解析)

散列表(Hash table,也叫雜湊表),是依據關鍵碼值(Key value)而直接進行訪問的資料結構。也就是說,它通過把關鍵碼值對映到表中一個位置來訪問記錄,以加快查詢的速度。這個對映函式叫做雜湊函式,存放記錄的陣列叫做散列表。  比如我們要儲存八十八個資料,我們為他申請了100個

Java CAS synchronized Lock

CAS 機制 適用場景:樂觀認為併發不高,不需要阻塞,可以不上鎖。 特點:不斷比較更新,直到成功。 缺點:高併發cpu壓力大;ABA問題。 ABA問題: CAS機制生效的前提是,取出記憶體中

深入淺出Java鎖--Lock實現原理(底層實現)

當多個執行緒需要訪問某個公共資源的時候,我們知道需要通過加鎖來保證資源的訪問不會出問題。 java提供了兩種方式來加鎖,一種是關鍵字:synchronized,一種是concurrent包下的lock鎖。 synchronized是java底層支援的,而concurrent包則是jdk實現。

jdk 原始碼分析(8)java synchronizedlock對比

因為synchronized 是關鍵字,無法看到原始碼,所以只能做一個簡單的分析對比了, synchronized 能鎖方法,也能鎖程式碼塊,其實也是一種重入鎖(也就是自己的鎖,自己可以進去),程式碼塊或方法離開,自動釋放鎖。 lock:lock能做synchro

java 併發中 volitile、synchronizedlock的比較(一)

1、volitile和(synchronnized、lock)        首先比較volitile和synchronnized,volitile執行緒不安全,但是synchronized則是執行緒安全的。        volitile修飾的變數主要作用讓變數的改變立即寫

synchronizedLOCK實現

Lock和synchronized        JDK1.5以後,在鎖機制方面引入了新的鎖-Lock,在網上的說法都比較籠統,結合網上的資訊和我的理解這裡做個總結。       java現有的鎖機制有兩種實現方式,J.DK1.4前是通過synchronized實現,J

Java同步鎖------synchronizedlock

Synchronized synchronized可用很好的解決多執行緒併發安全問題,但是在有些時候,他會使機器的效能降低,就比如在同步鎖內部發生IO阻塞,導致了其他想獲得鎖的執行緒不能獲得,一直阻塞在那裡,這樣大大降低的程式的執行效率。 經過總結synchronized有

Java多執行緒中 synchronizedLock的區別

我們已經瞭解了Java多執行緒程式設計中常用的關鍵字synchronized,以及與之相關的物件鎖機制。這一節中,讓我們一起來認識JDK 5中新引入的併發框架中的鎖機制。 我想很多購買了《Java程式設計師面試寶典》之類圖書的朋友一定對下面這個面試題感到非常熟悉: 問:請對比synchronized與java

Java併發機制底層實現原理synchronized

章節目錄 synchronized的實現原理與應用 synchronized 重量級鎖 1.6版本之前 synchronized 被稱之為 重量級鎖 1.6版本對 synchronized 進行了優化,主要優化的點在於 減少 獲得鎖和釋放鎖帶 來的效能消耗,為實現這個目的引入了偏向鎖

java同步鎖中synchronizedLock介面類的區別

Lock提供了和synchronized類似的同步功能,只是在使用時需要顯示地獲取和釋放鎖。雖然Lock缺少了synchronized隱式獲取釋放鎖的便捷性,但是卻擁有了鎖獲取與是釋放的可操作性、可中斷的獲取鎖以及超時獲取鎖等多種synchronized所不具備的同步特性

Java併發程式設計系列-(8) JMM底層實現原理

8. JMM和底層實現原理 8.1 執行緒間的通訊與同步 執行緒之間的通訊 執行緒的通訊是指執行緒之間以何種機制來交換資訊。在程式設計中,執行緒之間的通訊機制有兩種,共享記憶體和訊息傳遞。 在共享記憶體的併發模型裡,執行緒之間共享程式的公共狀態,執行緒之間通過寫-讀記憶體中的公共狀態來隱式進行通訊,典型的

就是要你懂Java中volatile關鍵字實現原理

stub string home 技術分享 訪問速度 get 地址傳遞 code 緩沖 原文地址http://www.cnblogs.com/xrq730/p/7048693.html,轉載請註明出處,謝謝 前言 我們知道volatile關鍵字的作用是保證變量在多線程之