1. 程式人生 > >Redis儲存總用String?你大概錯過了更優的使用方法

Redis儲存總用String?你大概錯過了更優的使用方法

Redis為我們提供了5種資料型別,基本上我們使用頻率最高的就是String,而對其他四種資料型別使用的頻次稍弱於String。原因在於:

  • String使用起來比較簡單,可以方便儲存複雜的物件,使用場景比較多;
  • 由於Redis expire time只能設定在key上,像List、Hash、Set、Zset屬於集合型別,會管理一組item,我們無法在這些集合的item上設定過期時間,所以使用expiretime來處理集合的cache失效會變得稍微複雜些。但是String使用expire time來管理過期策略會比較簡單,因為它包含的項少。這裡說的集合是寬泛的類似集合。
  • 從更深層次來看,我們對另外四種資料型別的使用和原理並不是太瞭解。所以這個時候往往會忽視在特定場景下使用某種資料型別會比String效能高出很多的可能性,比如使用Hash結構來提高某實體某個項的修改等。

這裡我們不打算羅列這5種資料型別的使用方法,因為這些資料網上有很多。我們主要討論這5種資料型別的功能特點,弄清楚它們分別適合用於處理哪些現實的業務場景,我們又該如何組合性使用這5種資料型別,找到解決複雜cache問題的最優方案。

一、Redis的資料型別及特點

我們來簡要了解一下String、List、Hash、Set及Zset:

1)String

String是Redis提供的字串型別。可以針對String型別獨立設定expire time,通常用來儲存長字串資料,比如某個物件的json字串。

在使用上,String型別最巧妙的是可以動態拼接key。通常我們可以將一組id放在Set裡,然後動態查詢String還是否存在,如果不存在說明已經過期或者由於資料修改主動delete了,需要再做一次cache資料load。

雖然Set無法設定item的過期時間,但是我們可以將Set Item與String Key關聯來達到相同的效果。

下圖中的左邊是一個key為Set:order:ids的Set集合,它可能是一個全量集合,也可能是某個查詢條件獲取出來的一個集合:

 

 

有時候複雜點的場景需要多個Set集合來支撐計算,在Redis伺服器裡可能會有很多類似這樣的集合。這些集合我們可以稱為功能資料,這些資料是用來輔助cache計算的,當進行各種集合運算之後會得出當前查詢需要返回的子集,最後我們才會去獲取某個訂單真正的資料。

這些String:order:{orderId}字串key並不一定是為了服務一種場景,而是整個系統最底層的資料,各種場景最後都需要獲取這些資料。那些Set集合可以認為是查詢條件資料,用來輔助查詢條件的計算。

Redis為我們提供了TYPE命令來檢視某個key的資料型別,如String型別:

 
SET string:order:100 order-100 TYPE string:order:100 string 

2)List

List在提高throughput的場景中非常適用,因為它特有的LPUSH、RPUSH、LPOP、RPOP功能可以無縫的支援生產者、消費者架構模式。

這非常適合實現類似Java Concurrency Fork/Join框架中的work-stealing演算法(工作竊取)。

注:Java Fork/Join框架使用並行來提高效能,但是會帶來由於併發take task帶來的race condition(競態條件)問題,所以採用work-stealing演算法來解決由於競爭問題帶來的效能損耗。

下圖中模擬了一個典型的支付callback峰值場景:

 

 

在峰值出現的地方一般我們都會使用加buffer的方式來加快請求處理速度,這樣才能提高併發處理能力,提高through put。

支付gateway收到callback之後不做任何處理直接交給分發器。

分發器是一個無狀態的cluster,每個node通過向註冊中心pull handler queue list,也就是獲取下游處理器註冊到註冊中心裡的訊息通道。每一個分發器node會維護一個本地queue list,然後順序推送訊息到這些queue list即可。

這裡會有點小問題,就是支付gateway呼叫分發器的時候,是如何做load balance?如果不是平均負載可能會有某個queue list高出其他queue list。

而分發器不需要做soft load balance,因為哪怕某個queue list比其他queue list多也無所謂,因為下游message handler會根據work-stealing演算法來竊取其他消費慢的queue list。

Redis List的LPUSH、RPUSH、LPOP、RPOP特性確實可以在很多場景下提高這種橫向擴充套件計算能力。

3)Hash

Hash資料型別很明顯是基於Hash演算法的,對於項的查詢時間複雜度是O(1)的,在極端情況下可能出現項Hash衝突問題,Redis內部是使用連結串列加key判斷來解決的。具體Redis內部的資料結構我們在後面有介紹,這裡就不展開了。

Hash資料型別的特點通常可以用來解決帶有對映關係,同時又需要對某些項進行更新或者刪除等操作。如果不是某個項需要維護,那麼一般可以通過使用String來解決。

如果有需要對某個欄位進行修改,使用String很明顯會多出很多開銷,需要讀取出來反序列化成物件然後操作,然後再序列化寫回Redis,這中間可能還有併發問題。

那我們可以使用Redis Hash提供的實體屬性Hash儲存特性,我們可以認為Hash Value是一個Hash Table,實體的每一個屬性都是通過Hash得到屬性的最終資料索引。

下圖使用Hash資料型別來記錄頁面的a/bmetrics:

 

 

左邊的是首頁index的各個區域的統計,右邊是營銷marketing的各個區域統計。

在程式裡我們可以很方便的使用Redis的atomic特性對Hash某個項進行累加操作。

 
HMSET hash:mall:page:ab:metrics:index topbanner 10 leftbanner 5 rightbanner 8 bottombanner 20 productmore 10 topshopping 8 OK HGETALL hash:mall:page:ab:metrics:index 1) "topbanner" 2) "10" 3) "leftbanner" 4) "5" 5) "rightbanner" 6) "8" 7) "bottombanner" 8) "20" 9) "productmore" 10) "10" 11) "topshopping" 12) "8" HINCRBY hash:mall:page:ab:metrics:index topbanner 1 (integer) 11 

使用Redis Hash Increment進行原子增加操作。HINCRBY命令可以原子增加任何給定的整數,也可以通過HINCRBYFLOAT來原子增加浮點型別資料。

4)Set

Set集合資料型別可以支援集合運算,不能儲存重複資料。

Set最大的特點就是集合的計算能力,inter交集、union並集、diff差集,這些特點可以用來做高效能的交叉計算或者剔除資料。

Set集合在使用場景上還是比較多和自由的。舉個簡單的例子,在應用系統中比較常見的就是商品、活動類場景。用一個Set快取有效商品集合,再用一個Set快取活動商品集合。如果商品出現上下架操作只需要維護有效商品Set,每次獲取活動商品的時候需要過濾下是否有下架商品,如果有就需要從活動商品中剔除。

當然,下架的時候可以直接刪除快取的活動商品,但是活動是從marketing系統中load出來的,就算我將cache裡的活動商品刪除,當下次再從marketing系統中load活動商品時候還是會有下架商品。

當然這只是舉例,一個場景有不同的實現方法。

下圖中左右兩邊是兩個不同的集合:

 

 

 

左邊是營銷域中的可用商品ids集合,右邊是營銷域中活動商品ids集合,中間計算出兩個集合的交集。

 
SADD set:marketing:product:available:ids 1000100 1000120 1000130 1000140 1000150 1000160 SMEMBERS set:marketing:product:available:ids 1) "1000100" 2) "1000120" 3) "1000130" 4) "1000140" 5) "1000150" 6) "1000160" SADD set:marketing:activity:product:ids 1000100 1000120 1000130 1000140 1000200 1000300 SMEMBERS set:marketing:activity:product:ids 1) "1000100" 2) "1000120" 3) "1000130" 4) "1000140" 5) "1000200" 6) "1000300" SINTER set:marketing:product:available:ids set:marketing:activity:product:ids 1) "1000100" 2) "1000120" 3) "1000130" 4) "1000140" 

在一些複雜的場景中,也可以使用SINTERSTORE命令將交集計算後的結果儲存在一個目標集合中。這在使用pipeline命令管道中特別有用,將SINTERSTORE命令包裹在pipeline命令串中可以重複使用計算出來的結果集。

由於Redis是Signle-Thread單執行緒模型,基於這個特性我們就可以使用Redis提供的pipeline管道來提交一連串帶有邏輯的命令集合,這些命令在處理期間不會被其他客戶端的命令干擾。

5)Zset

Zset排序集合與Set集合類似,但是Zset提供了排序的功能。在介紹Set集合的時候我們知道Set集合中的成員是無序的,Zset填補了集合可以排序的空隙。

Zset最強大的功能就是可以根據某個score比分值進行排序,這在很多業務場景中非常急需。比如,在促銷活動里根據商品的銷售數量來排序商品,在旅遊景區里根據流入人數來排序熱門景點等。基本上人們在做任何事情都需要根據某些條件進行排序。

其實Zset在我們應用系統中能用到地方到處都是,這裡我們舉一個簡單的例子,在團購系統中我們通常需要根據參團人數來排序成團列表,大家都希望參加那些即將成團的團。

下圖是一個根據團購code建立的Zset,score分值就是參團人數累加和:

 

 

 

 
ZADD zset:marketing:groupon:group:codes 5 G_PXYJY9QQFA 8 G_4EXMT6NZJQ 20 G_W7BMF5QC2P 10 G_429DHBTGZX 8 G_KHZGH9U4PP ZREVRANGEBYSCORE zset:marketing:groupon:group:codes 1000 0 1) "G_W7BMF5QC2P" 2) "G_ZMZ69HJUCB" 3) "G_429DHBTGZX" 4) "G_KHZGH9U4PP" 5) "G_4EXMT6NZJQ" 6) "G_PXYJY9QQFA" ZREVRANGEBYSCORE zset:marketing:groupon:group:codes 1000 0 withscores 1) "G_W7BMF5QC2P" 2) "20" 3) "G_ZMZ69HJUCB" 4) "10" 5) "G_429DHBTGZX" 6) "10" 7) "G_KHZGH9U4PP" 8) "8" 9) "G_4EXMT6NZJQ" 10) "8" 11) "G_PXYJY9QQFA" 12) "5" 

Zset本身提供了很多方法用來進行集合的排序,如果需要score分值,可以使用withscore字句帶出每一項的分值。

在一些比較特殊的場合可能需要組合排序,可能有多個Zset分別用來對同一個實體在不同維度的排序,按時間排序、按人數排序等。這個時候就可以組合使用Zset帶來的便捷性,利用pipeline再結合多個Zset最終得出組合排序集合。

二、案例:滬江團購系統大促hot-top介面cache設計

以滬江團購系統大促hot-top介面cache設計為例,我們總結了Redis提供的5種資料型別的各自特點和一般的使用場景。但是我們不僅僅可以分開使用這些資料型別,我們完全可以綜合使用這些資料型別來完成複雜的cache場景。

下面我們分享一個使用多個Zset、String來優化團購系統前臺介面的例子。由於篇幅和時間限制,這裡只介紹跟本次案例相關的資訊。

注:hot-top介面是指熱點、排名介面的意思,表示它的瀏覽量、併發量比較高,一般大促的時候都會有幾個這種效能要求比較高的介面。

我們先來分析一個查詢介面所包含的常規資訊。

首先一個查詢介面肯定是有query condition查詢條件,然後是sort排序資訊、最後是page分頁資訊。這是一般介面所承擔的基本職責,當然,特殊場景下還需要支援master/slave replication時關於資料session一致性的要求,需要提供跟蹤標記來回master查詢資料,這裡就不展開了。

我們可以抽象出這幾個維度的資訊:

  • querycondition:查詢條件,companyid =100,sellerid=1010101諸如此類。
  • sort:排序資訊,一般是預設一個列排序,但是在複雜的場景下會有可能讓介面使用者定製排序欄位,比如一些租戶資訊列。
  • page:分頁資訊,簡單理解就是資料記錄排完序之後的第幾行到第幾行。

由於這裡我們純粹用Redis來提高cache能力,不涉及到有關於任何搜尋的能力,所以這裡忽略其他複雜查詢的情況。其實我們在複雜的地方使用了Elastcsearch來提高搜尋能力。

上述我們分析總結出了一個查詢介面的基本資訊,這裡還有一個有關於高併發介面的設計原則,就是將hot-top介面和一般search介面分離開,因為只有分而治之才能分別根據特點選用不同的技術。

如果我們不分職責將所有的查詢場景封裝在一個接口裡,那麼在後面優化介面效能的時候基本就很麻煩了,有些場景是無法或者很難用cache來解決的,因為接口裡耦合了各種場景邏輯,就算勉強能實現效能也不會高。

前面做這些鋪墊是為了能在介紹案例的時候達成一個基本的共識。現在我們來看下這個團購系統的hot-top介面的具體邏輯。

注:在大促的時候需要展現團購列表,這個介面的訪問量是非常大的,團購活動需要根據參團人數倒序排序,並且分頁返回指定數量的團列表。我們假設這個介面名為getTopGroups(getTopGroupsRequestrequest)。

1)query condition查詢條件問題

我們來仔細分析下,首先不同的查詢條件從DB裡查詢出來的資料是不一樣的,也就是說查詢出來的團列表是不一樣的,可能有company公司、channel渠道等過濾條件。

由於一個團購活動下不會有太多團,頂多上百個是極限了,所以一個查詢條件出來的團列表也頂多幾十個,而且根據場景分析熱點查詢條件不會超過十個,所以我們選擇將查詢條件Hash出一個code來快取本次查詢條件的全量團列表集合,但是這些結果集是沒有任何排序的。

2)sort排序問題

再看根據參團人數排序問題,我們立刻就可以想到使用Zset來處理團排序問題,因為只有一個排序維度,所以一個Zset就夠了。我們使用一個Zset來快取所有團的參團人數集合,它是一個全量的團排序集合。

那麼我們如何將使用者的查詢條件出來的團列表根據參團人數排序呢?剛好可以使用Zset的交集運算,直接計算出當前這個集合的Zset子集。

3)page分頁問題

通過對已經排序之後的團列表Zset使用Zrange來獲取出分頁集合。我們來看下完整的流程,如何處理查詢、排序、分頁的。

下圖從query condition計算Hash Code,然後通過DB查詢出當前條件全量團列表:

 

 

 

zset:marketing:groupon:hottop:available:groupkey表示全量團的參團人數,用一個Zset來快取。接著將這兩個Zset計算交集,就可以得出當前查詢所需要的帶有參團人數的Zset,最後在使用Zrevrange獲取分頁區間。

 
ZADD zset:marketing:groupon:hottop:condition:2986080 0 G4ZD5732YZQ 0 G5VW3YF42UC 0 GF773FEJ7CC 0 GFW8DUEND8S 0 GKPKKW8XEY9 0 GL324DGWMZM (integer) 6 ZADD zset:marketing:groupon:hottop:available:group 5 GN7KQH36ZWK 10 GS7VB22AWD4 15 GF773FEJ7CC 17 G5VW3YF42UC 18 G4ZD5732YZQ 32 GTYJKCEJBRR 40 GKPKKW8XEY9 45 GL324DGWMZM 50 GFW8DUEND8S 60 GYTKY4ACWLT (integer) 10 ZINTERSTORE zset:marketing:groupon:hottop:condition:interstore 2 zset:marketing:groupon:hottop:condition:2986080 zset:marketing:groupon:hottop:available:group (integer) 6 ZRANGE zset:marketing:groupon:hottop:condition:interstore 0 -1 withscores 1) "GF773FEJ7CC" 2) "15" 3) "G5VW3YF42UC" 4) "17" 5) "G4ZD5732YZQ" 6) "18" 7) "GKPKKW8XEY9" 8) "40" 9) "GL324DGWMZM" 10) "45" 11) "GFW8DUEND8S" 12) "50" ZREVRANGE zset:marketing:groupon:hottop:condition:interstore 2 4 withscores 1) "GKPKKW8XEY9" 2) "40" 3) "G4ZD5732YZQ" 4) "18" 5) "G5VW3YF42UC" 6) "17" 

有了返回的團code集合之後就可以通過mget來批量獲取String型別的團詳情資訊,這裡就不貼出程式碼了。

加q群:834962734 可獲取一份Java架構進階學習資源(高併發+Spring原始碼+JVM原理解析+分散式架構+微服務架構+多執行緒併發原理等...這些成為架構師必備的內容)以及Java進階學習路線圖。

由於篇幅和時間關係,我們不展開太多的業務場景介紹了。這其中還涉及到計算cache過期時間的問題,這也跟促銷活動的運營規則有關係,還涉及到有可能query condition hash衝突問題等,但是這些已經不與我們本節主題相關。