1. 程式人生 > >總線鎖定與一致性緩存

總線鎖定與一致性緩存

總線鎖定;一致性緩存

總線鎖定和緩存一致性

這是兩個操作系統層面的概念。隨著多核時代的到來,並發操作已經成了很正常的現象,操作系統必須要有一些機制和原語,以保證某些基本操作的原子性,比如處理器需要保證讀一個字節或寫一個字節是原子的,那麽它是如何實現的呢?有兩種機制:總線鎖定和緩存一致性。

我們知道,CPU和物理內存之間的通信速度遠慢於CPU的處理速度,所以CPU有自己的內部緩存,根據一些規則將內存中的數據讀取到內部緩存中來,以加快頻繁讀取的速度。我們假設在一臺PC上只有一個CPU和一份內部緩存,那麽所有進程和線程看到的數都是緩存裏的數,不會存在問題;但現在服務器通常是多 CPU,更普遍的是,每塊CPU裏有多個內核,而每個內核都維護了自己的緩存,那麽這時候多線程並發就會存在緩存不一致性,這會導致嚴重問題。

以 i++為例,i的初始值是0.那麽在開始每塊緩存都存儲了i的值0,當第一塊內核做i++的時候,其緩存中的值變成了1,即使馬上回寫到主內存,那麽在回寫之後第二塊內核緩存中的i值依然是0,其執行i++,回寫到內存就會覆蓋第一塊內核的操作,使得最終的結果是1,而不是預期中的2.

那麽怎麽解決整個問題呢?操作系統提供了總線鎖定的機制。前端總線(也叫CPU總線)是所有CPU與芯片組連接的主幹道,負責CPU與外界所有部件的通信,包括高速緩存、內存、北橋,其控制總線向各個部件發送控制信號、通過地址總線發送地址信號指定其要訪問的部件、通過數據總線雙向傳輸。在CPU1要做 i++操作的時候,其在總線上發出一個LOCK#信號,其他處理器就不能操作緩存了該共享變量內存地址的緩存,也就是阻塞了其他CPU,使該處理器可以獨享此共享內存。

但我們只需要對此共享變量的操作是原子就可以了,而總線鎖定把CPU和內存的通信給鎖住了,使得在鎖定期間,其他處理器不能操作其他內存地址的數據,從而開銷較大,所以後來的CPU都提供了緩存一致性機制,Intel的奔騰486之後就提供了這種優化。

緩存一致性機制整體來說,是當某塊CPU對緩存中的數據進行操作了之後,就通知其他CPU放棄儲存在它們內部的緩存,或者從主內存中重新讀取,如下圖:
技術分享圖片
這裏以在Intel系列中廣泛使用的MESI協議詳細闡述下其原理。

MESI 協議是以緩存行(緩存的基本數據單位,在Intel的CPU上一般是64字節)的幾個狀態來命名的(全名是Modified、Exclusive、 Share or Invalid)。該協議要求在每個緩存行上維護兩個狀態位,使得每個數據單位可能處於M、E、S和I這四種狀態之一,各種狀態含義如下:

M:被修改的。處於這一狀態的數據,只在本CPU中有緩存數據,而其他CPU中沒有。同時其狀態相對於內存中的值來說,是已經被修改的,且沒有更新到內存中。

E:獨占的。處於這一狀態的數據,只有在本CPU中有緩存,且其數據沒有修改,即與內存中一致。

S:共享的。處於這一狀態的數據在多個CPU中都有緩存,且與內存一致。

I:無效的。本CPU中的這份緩存已經無效。

這裏首先介紹該協議約定的緩存上對應的監聽:

一個處於M狀態的緩存行,必須時刻監聽所有試圖讀取該緩存行對應的主存地址的操作,如果監聽到,則必須在此操作執行前把其緩存行中的數據寫回CPU。

一個處於S狀態的緩存行,必須時刻監聽使該緩存行無效或者獨享該緩存行的請求,如果監聽到,則必須把其緩存行狀態設置為I。

一個處於E狀態的緩存行,必須時刻監聽其他試圖讀取該緩存行對應的主存地址的操作,如果監聽到,則必須把其緩存行狀態設置為S。

當CPU需要讀取數據時,如果其緩存行的狀態是I的,則需要從內存中讀取,並把自己狀態變成S,如果不是I,則可以直接讀取緩存中的值,但在此之前,必須要等待其他CPU的監聽結果,如其他CPU也有該數據的緩存且狀態是M,則需要等待其把緩存更新到內存之後,再讀取。

當CPU需要寫數據時,只有在其緩存行是M或者E的時候才能執行,否則需要發出特殊的RFO指令(Read Or Ownership,這是一種總線事務),通知其他CPU置緩存無效(I),這種情況下會性能開銷是相對較大的。在寫入完成後,修改其緩存狀態為M。

所以如果一個變量在某段時間只被一個線程頻繁地修改,則使用其內部緩存就完全可以辦到,不涉及到總線事務,如果緩存一會被這個CPU獨占、一會被那個CPU 獨占,這時才會不斷產生RFO指令影響到並發性能。這裏說的緩存頻繁被獨占並不是指線程越多越容易觸發,而是這裏的CPU協調機制,這有點類似於有時多線程並不一定提高效率,原因是線程掛起、調度的開銷比執行任務的開銷還要大,這裏的多CPU也是一樣,如果在CPU間調度不合理,也會形成RFO指令的開銷比任務開銷還要大。當然,這不是編程者需要考慮的事,操作系統會有相應的內存地址的相關判斷,這不在本文的討論範圍之內。

並非所有情況都會使用緩存一致性的,如被操作的數據不能被緩存在CPU內部或操作數據跨越多個緩存行(狀態無法標識),則處理器會調用總線鎖定;另外當CPU不支持緩存鎖定時,自然也只能用總線鎖定了,比如說奔騰486以及更老的CPU。

總線鎖定與一致性緩存