分散式全域性唯一ID生成策略
一、背景
分散式系統中我們會對一些資料量大的業務進行分拆,如:使用者表,訂單表。因為資料量巨大一張表無法承接,就會對其進行分庫分表。
但一旦涉及到分庫分表,就會引申出分散式系統中唯一主鍵ID
的生成問題。
1.1 唯一ID的特性
- 整個系統
ID
唯一; - ID是數字型別,而且是趨勢遞增;
- ID簡短,查詢效率快。
1.2 遞增與趨勢遞增
遞增 | 趨勢遞增 |
---|---|
第一次生成的ID為12,下一次生成的ID是13,再下一次生成的ID是14。 | 什麼是?如:在一段時間內,生成的ID是遞增的趨勢。如:再一段時間內生成的ID在【0,1000】之間,過段時間生成的ID在【1000,2000】之間。但在【0-1000】區間內的時候,ID生成有可能第一次是12,第二次是10,第三次是14。 |
二、方案
2.1 UUID
UUID
全稱:Universally Unique Identifier
。標準型式包含32個16進位制數字,以連字號分為五段,形式為8-4-4-4-12
的36個字元,示例:9628f6e9-70ca-45aa-9f7c-77afe0d26e05
。
- 優點:
- 程式碼實現簡單;
- 本機生成,沒有效能問題;
- 因為是全球唯一的
ID
,所以遷移資料容易。
- 缺點:
- 每次生成的
ID
是無序的,無法保證趨勢遞增; UUID
的字串儲存,查詢效率慢;- 儲存空間大;
ID
本身無業務含義,不可讀。
- 應用場景:
- 類似生成token令牌的場景;
- 不適用一些要求有趨勢遞增的ID場景,不適合作為高效能需求的場景下的資料庫主鍵。
也有線上生成
UUID
的網站,如果你的專案上用到了UUID
,可以用來生成臨時的測試資料。https://www.uuidgenerator.net/
2.2 MySQL主鍵自增
利用了MySQL
的主鍵自增auto_increment
,預設每次ID
加1
。
優點:
- 數字化,
ID
遞增; - 查詢效率高;
- 具有一定的業務可讀。
- 缺點:
- 存在單點問題,如果
MySQL
掛了,就沒法生成ID
了; - 資料庫壓力大,高併發抗不住。
2.3 MySQL多例項主鍵自增
這個方案就是解決MySQL
的單點問題,在auto_increment
基本上面,設定step
步長
如上,每臺的初始值分別為1
,2
,3
...N
,步長為N
4
)
- 優點:解決了單點問題;
- 缺點:一旦把步長定好後,就無法擴容;而且單個數據庫的壓力大,資料庫自身效能無法滿足高併發。
- 應用場景:資料不需要擴容的場景。
2.4 基於Redis實現
單機:
Redis
的incr
函式在單機上是原子操作,可以保證唯一且遞增。叢集:單機
Redis
可能無法支撐高併發。叢集情況下,可以使用步長的方式。比如有5個Redis
節點組成的叢集,它們生成的ID
分別為:
A: 1,6,11,16,21
B: 2,7,12,17,22
C: 3,8,13,18,23
D: 4,9,14,19,24
E: 5,10,15,20,25
- 優點:有序遞增,可讀性強。
- 缺點:佔用頻寬,每次要向
Redis
進行請求。
三、優化方案
3.1、改造資料庫主鍵自增
資料庫的自增主鍵的特性,可以實現分散式ID,適合做userId,正好符合如何永不遷移資料和避免熱點? 但這個方案有嚴重的問題:
- 一旦步長定下來,不容易擴容;
- 資料庫壓力山大。
- 為什麼壓力大?
因為我們每次獲取ID的時候,都要去資料庫請求一次。那我們可以不可以不要每次去取?
可以請求資料庫得到ID的時候,可設計成獲得的ID是一個ID區間段。
- 上圖
ID
規則表含義:
id
表示為主鍵,無業務含義;biz_tag
為了表示業務,因為整體系統中會有很多業務需要生成ID
,這樣可以共用一張表維護;max_id
表示現在整體系統中已經分配的最大ID
;desc
描述;update_time
表示每次取的ID
時間;
- 整體流程:
- 【使用者服務】在註冊一個使用者時,需要一個使用者
ID
;會請求【生成ID
服務(是獨立的應用)】的介面; - 【生成
ID
服務】會去查詢資料庫,找到user_tag
的id
,現在的max_id
為0
,step=1000
; - 【生成
ID
服務】把max_id
和step
返回給【使用者服務】;並且把max_id
更新為max_id = max_id + step
,即更新為1000
; - 【使用者服務】獲得
max_id=0
,step=1000
; - 這個使用者服務可以用
ID=【max_id + 1,max_id+step】
區間的ID
,即為【1,1000】
; - 【使用者服務】會把這個區間儲存到
jvm
中; - 【使用者服務】需要用到
ID
的時候,在區間【1,1000】
中依次獲取ID
,可採用AtomicLong
中的getAndIncrement
方法; 如果把區間的值用完了,再去請求【生產
ID
服務】介面,獲取到max_id
為1000
,即可以用【max_id + 1,max_id+step】
區間的ID
,即為【1001,2000】
。- 該方案就非常完美的解決了資料庫自增的問題,而且可以自行定義
max_id
的起點,和step
步長,非常方便擴容; 也解決了資料庫壓力的問題,因為在一段區間內,是在
jvm
記憶體中獲取的,而不需要每次請求資料庫。即使資料庫宕機了,系統也不受影響,ID
還能維持一段時間。
3.2 競爭問題
以上方案中,如果是多個使用者服務,同時獲取ID
,同時去請求【ID服務】,在獲取max_id
的時候會存在併發問題。如:
使用者服務
A
,取到的max_id=1000
;使用者服務B
取到的也是max_id=1000
,那就出現了問題,ID
重複了。
解決方案是:加分散式鎖,保證同一時刻只有一個使用者服務獲取max_id
。
3.3 突發阻塞問題
因為競爭問題,所有隻有一個使用者服務去操作資料庫,其他二個會被阻塞。出現的現象就是一會兒突然系統耗時變長,怎麼去解決?
- 雙
buffer
方案
流程如下:
- 當前獲取
ID
在buffer1
中,每次獲取ID
在buffer1
中獲取; - 當
buffer1
中的ID
已經使用到了100
,也就是達到區間的10%
; - 達到了
10%
,先判斷buffer2
中有沒有去獲取過,如果沒有就立即發起請求獲取ID
執行緒,此執行緒把獲取到的ID
,設定到buffer2
中; - 如果
buffer1
用完了,會自動切換到buffer2
; buffer2
用到10%
了,也會啟動執行緒再次獲取,設定到buffer1
中;- 依次往返。
3.4 總結
- 雙
buffer
的方案就達到了業務場景用的ID
,都是在jvm
記憶體中獲得的,從此不需要到資料庫中獲取了,資料庫宕機時長長點兒也沒太大影響了。 - 因為會有一個執行緒,會觀察什麼時候去自動獲取。兩個
buffer
之間自行切換使用,就解決了突發阻塞的問題。
四、其他方式
還有一些其他的ID
生成方案,比如:
- 滴滴:時間+起點編號+車牌號;
- 淘寶訂單:時間戳+使用者
ID
- 其他電商:時間戳+下單渠道+使用者
ID
,有的會加上訂單第一個商品的ID
; MongoDB
的ID
:通過時間+機器碼+pid+inc
共12個位元組,4+3+2+3
的方式最終標識成一個24長度的十六進位制字元。