1. 程式人生 > >一口氣說出 6種 延時佇列的實現方法,面試官也得服

一口氣說出 6種 延時佇列的實現方法,面試官也得服

五一期間原計劃是寫兩篇文章,看一本技術類書籍,結果這五天由於自律性過於差,禁不住各種誘惑,我連電腦都沒開啟過,計劃完美宣告失敗。所以在這能看出和大佬之間的差距,人家沒白沒夜的更文,比你優秀的人比你更努力,難以望其項背,真是讓我自愧不如。 知恥而後勇,這不逼著自己又學起來了,個人比較喜歡一些實踐類的東西,既學習到知識又能讓技術落地,能搞出個`demo`最好,本來不知道該分享什麼主題,好在最近專案緊急招人中,而我有幸做了回面試官,就給大家整理分享一道面試題:“**如何實現延時佇列?**”。 下邊會介紹多種實現延時佇列的思路,文末提供有幾種實現方式的 `github`地址。其實哪種方式都沒有絕對的好與壞,只是看把它用在什麼業務場景中,技術這東西沒有最好的只有最合適的。 #### 一、延時佇列的應用 什麼是延時佇列?顧名思義:首先它要具有佇列的特性,再給它附加一個延遲消費佇列訊息的功能,也就是說可以指定佇列中的訊息在哪個時間點被消費。 延時佇列在專案中的應用還是比較多的,尤其像電商類平臺: 1、訂單成功後,在30分鐘內沒有支付,自動取消訂單 2、外賣平臺傳送訂餐通知,下單成功後60s給使用者推送簡訊。 3、如果訂單一直處於某一個未完結狀態時,及時處理關單,並退還庫存 4、淘寶新建商戶一個月內還沒上傳商品資訊,將凍結商鋪等 。。。。 上邊的這些場景都可以應用延時佇列解決。 #### 二、延時佇列的實現 我個人一直秉承的觀點:工作上能用`JDK`自帶`API`實現的功能,就不要輕易自己重複造輪子,或者引入三方中介軟體。一方面自己封裝很容易出問題(大佬除外),再加上除錯驗證產生許多不必要的工作量;另一方面一旦接入三方的中介軟體就會讓系統複雜度成倍的增加,維護成本也大大的增加。 ##### 1、DelayQueue 延時佇列 `JDK` 中提供了一組實現延遲佇列的`API`,位於`Java.util.concurrent`包下`DelayQueue`。 `DelayQueue`是一個`BlockingQueue`(無界阻塞)佇列,它本質就是封裝了一個`PriorityQueue`(優先佇列),`PriorityQueue`內部使用`完全二叉堆`(不知道的自行了解哈)來實現佇列元素排序,我們在向`DelayQueue`佇列中新增元素時,會給元素一個`Delay`(延遲時間)作為排序條件,佇列中最小的元素會優先放在隊首。佇列中的元素只有到了`Delay`時間才允許從佇列中取出。佇列中可以放基本資料型別或自定義實體類,在存放基本資料型別時,優先佇列中元素預設升序排列,自定義實體類就需要我們根據類屬性值比較計算了。 先簡單實現一下看看效果,新增三個`order`入隊`DelayQueue`,分別設定訂單在當前時間的`5秒`、`10秒`、`15秒`後取消。 ![在這裡插入圖片描述](https://img-blog.csdnimg.cn/20200506141801287.png?#pic_center) 要實現`DelayQueue`延時佇列,隊中元素要`implements` `Delayed` 介面,這哥接口裡只有一個`getDelay`方法,用於設定延期時間。`Order`類中`compareTo`方法負責對佇列中的元素進行排序。 ```java public class Order implements Delayed { /** * 延遲時間 */ @JsonFormat(locale = "zh", timezone = "GMT+8", pattern = "yyyy-MM-dd HH:mm:ss") private long time; String name; public Order(String name, long time, TimeUnit unit) { this.name = name; this.time = System.currentTimeMillis() + (time > 0 ? unit.toMillis(time) : 0); } @Override public long getDelay(TimeUnit unit) { return time - System.currentTimeMillis(); } @Override public int compareTo(Delayed o) { Order Order = (Order) o; long diff = this.time - Order.time; if (diff <= 0) { return -1; } else { return 1; } } } ``` `DelayQueue`的`put`方法是執行緒安全的,因為`put`方法內部使用了`ReentrantLock`鎖進行執行緒同步。`DelayQueue`還提供了兩種出隊的方法 `poll()` 和 `take()` , `poll()` 為非阻塞獲取,沒有到期的元素直接返回null;`take()` 阻塞方式獲取,沒有到期的元素執行緒將會等待。 ```java public class DelayQueueDemo { public static void main(String[] args) throws InterruptedException { Order Order1 = new Order("Order1", 5, TimeUnit.SECONDS); Order Order2 = new Order("Order2", 10, TimeUnit.SECONDS); Order Order3 = new Order("Order3", 15, TimeUnit.SECONDS); DelayQueue delayQueue = new DelayQueue<>(); delayQueue.put(Order1); delayQueue.put(Order2); delayQueue.put(Order3); System.out.println("訂單延遲佇列開始時間:" + LocalDateTime.now().format(DateTimeFormatter.ofPattern("yyyy-MM-dd HH:mm:ss"))); while (delayQueue.size() != 0) { /** * 取佇列頭部元素是否過期 */ Order task = delayQueue.poll(); if (task != null) { System.out.format("訂單:{%s}被取消, 取消時間:{%s}\n", task.name, LocalDateTime.now().format(DateTimeFormatter.ofPattern("yyyy-MM-dd HH:mm:ss"))); } Thread.sleep(1000); } } } ``` 上邊只是簡單的實現入隊與出隊的操作,實際開發中會有專門的執行緒,負責訊息的入隊與消費。 執行後看到結果如下,`Order1`、`Order2`、`Order3` 分別在 `5秒`、`10秒`、`15秒`後被執行,至此就用`DelayQueue`實現了延時佇列。 ```java 訂單延遲佇列開始時間:2020-05-06 14:59:09 訂單:{Order1}被取消, 取消時間:{2020-05-06 14:59:14} 訂單:{Order2}被取消, 取消時間:{2020-05-06 14:59:19} 訂單:{Order3}被取消, 取消時間:{2020-05-06 14:59:24} ``` ##### 2、Quartz 定時任務 `Quartz`一款非常經典任務排程框架,在`Redis`、`RabbitMQ`還未廣泛應用時,超時未支付取消訂單功能都是由定時任務實現的。定時任務它有一定的週期性,可能很多單子已經超時,但還沒到達觸發執行的時間點,那麼就會造成訂單處理的不夠及時。 引入`quartz`框架依賴包 ```java org.springframework.boot
spring-boot-starter-quartz
``` 在啟動類中使用`@EnableScheduling`註解開啟定時任務功能。 ```java @EnableScheduling @SpringBootApplication public class DelayqueueApplication { public static void main(String[] args) { SpringApplication.run(DelayqueueApplication.class, args); } } ``` 編寫一個定時任務,每個5秒執行一次。 ```java @Component public class QuartzDemo { //每隔五秒 @Scheduled(cron = "0/5 * * * * ? ") public void process(){ System.out.println("我是定時任務!"); } } ``` ##### 3、Redis sorted set `Redis`的資料結構`Zset`,同樣可以實現延遲佇列的效果,主要利用它的`score`屬性,`redis`通過`score`來為集合中的成員進行從小到大的排序。 ![在這裡插入圖片描述](https://img-blog.csdnimg.cn/20200507130701854.png#pic_center) 通過`zadd`命令向佇列`delayqueue` 中新增元素,並設定`score`值表示元素過期的時間;向`delayqueue` 新增三個`order1`、`order2`、`order3`,分別是`10秒`、`20秒`、`30秒`後過期。 ```java zadd delayqueue 3 order3 ``` 消費端輪詢佇列`delayqueue`, 將元素排序後取最小時間與當前時間比對,如小於當前時間代表已經過期移除`key`。 ```java /** * 消費訊息 */ public void pollOrderQueue() { while (true) { Set set = jedis.zrangeWithScores(DELAY_QUEUE, 0, 0); String value = ((Tuple) set.toArray()[0]).getElement(); int score = (int) ((Tuple) set.toArray()[0]).getScore(); Calendar cal = Calendar.getInstance(); int nowSecond = (int) (cal.getTimeInMillis() / 1000); if (nowSecond >= score) { jedis.zrem(DELAY_QUEUE, value); System.out.println(sdf.format(new Date()) + " removed key:" + value); } if (jedis.zcard(DELAY_QUEUE) <= 0) { System.out.println(sdf.format(new Date()) + " zset empty "); return; } Thread.sleep(1000); } } ``` 我們看到執行結果符合預期 ```java 2020-05-07 13:24:09 add finished. 2020-05-07 13:24:19 removed key:order1 2020-05-07 13:24:29 removed key:order2 2020-05-07 13:24:39 removed key:order3 2020-05-07 13:24:39 zset empty ``` ##### 4、Redis 過期回撥 `Redis` 的`key`過期回撥事件,也能達到延遲佇列的效果,簡單來說我們開啟監聽key是否過期的事件,一旦key過期會觸發一個callback事件。 修改`redis.conf`檔案開啟`notify-keyspace-events Ex` ```java notify-keyspace-events Ex ``` `Redis`監聽配置,注入Bean `RedisMessageListenerContainer` ```java @Configuration public class RedisListenerConfig { @Bean RedisMessageListenerContainer container(RedisConnectionFactory connectionFactory) { RedisMessageListenerContainer container = new RedisMessageListenerContainer(); container.setConnectionFactory(connectionFactory); return container; } } ``` 編寫Redis過期回撥監聽方法,必須繼承`KeyExpirationEventMessageListener` ,有點類似於MQ的訊息監聽。 ```java @Component public class RedisKeyExpirationListener extends KeyExpirationEventMessageListener { public RedisKeyExpirationListener(RedisMessageListenerContainer listenerContainer) { super(listenerContainer); } @Override public void onMessage(Message message, byte[] pattern) { String expiredKey = message.toString(); System.out.println("監聽到key:" + expiredKey + "已過期"); } } ``` 到這程式碼就編寫完成,非常的簡單,接下來測試一下效果,在`redis-cli`客戶端新增一個`key` 並給定`3s`的過期時間。 ```java set xiaofu 123 ex 3 ``` 在控制檯成功監聽到了這個過期的`key`。 ```java 監聽到過期的key為:xiaofu ``` ##### 5、RabbitMQ 延時佇列 利用 `RabbitMQ` 做延時佇列是比較常見的一種方式,而實際上`RabbitMQ` 自身並沒有直接支援提供延遲佇列功能,而是通過 `RabbitMQ` 訊息佇列的 `TTL`和 `DXL`這兩個屬性間接實現的。 先來認識一下 `TTL`和 `DXL`兩個概念: `Time To Live`(`TTL`) : `TTL` 顧名思義:指的是訊息的存活時間,`RabbitMQ`可以通過`x-message-tt`引數來設定指定`Queue`(佇列)和 `Message`(訊息)上訊息的存活時間,它的值是一個非負整數,單位為微秒。 `RabbitMQ` 可以從兩種維度設定訊息過期時間,分別是`佇列`和`訊息本身` - 設定佇列過期時間,那麼佇列中所有訊息都具有相同的過期時間。 - 設定訊息過期時間,對佇列中的某一條訊息設定過期時間,每條訊息`TTL`都可以不同。 如果同時設定佇列和佇列中訊息的`TTL`,則`TTL`值以兩者中較小的值為準。而佇列中的訊息存在佇列中的時間,一旦超過`TTL`過期時間則成為`Dead Letter`(死信)。 `Dead Letter Exchanges`(`DLX`) `DLX`即死信交換機,繫結在死信交換機上的即死信佇列。`RabbitMQ`的 `Queue`(佇列)可以配置兩個引數`x-dead-letter-exchange` 和 `x-dead-letter-routing-key`(可選),一旦佇列內出現了`Dead Letter`(死信),則按照這兩個引數可以將訊息重新路由到另一個`Exchange`(交換機),讓訊息重新被消費。 `x-dead-letter-exchange`:佇列中出現`Dead Letter`後將`Dead Letter`重新路由轉發到指定 `exchange`(交換機)。 `x-dead-letter-routing-key`:指定`routing-key`傳送,一般為要指定轉發的佇列。 隊列出現`Dead Letter`的情況有: - 訊息或者佇列的`TTL`過期 - 佇列達到最大長度 - 訊息被消費端拒絕(basic.reject or basic.nack) 下邊結合一張圖看看如何實現超30分鐘未支付關單功能,我們將訂單訊息A0001傳送到延遲佇列`order.delay.queue`,並設定`x-message-tt`訊息存活時間為30分鐘,當到達30分鐘後訂單訊息A0001成為了`Dead Letter`(死信),延遲佇列檢測到有死信,通過配置`x-dead-letter-exchange`,將死信重新轉發到能正常消費的關單佇列,直接監聽關單佇列處理關單邏輯即可。 ![在這裡插入圖片描述](https://img-blog.csdnimg.cn/2020050710594667.png?#pic_center) 傳送訊息時指定訊息延遲的時間 ```java public void send(String delayTimes) { amqpTemplate.convertAndSend("order.pay.exchange", "order.pay.queue","大家好我是延遲資料", message ->
{ // 設定延遲毫秒值 message.getMessageProperties().setExpiration(String.valueOf(delayTimes)); return message; }); } } ``` 設定延遲隊列出現死信後的轉發規則 ```java /** * 延時佇列 */ @Bean(name = "order.delay.queue") public Queue getMessageQueue() { return QueueBuilder .durable(RabbitConstant.DEAD_LETTER_QUEUE) // 配置到期後轉發的交換 .withArgument("x-dead-letter-exchange", "order.close.exchange") // 配置到期後轉發的路由鍵 .withArgument("x-dead-letter-routing-key", "order.close.queue") .build(); } ``` ##### 6、時間輪 前邊幾種延時佇列的實現方法相對簡單,比較容易理解,時間輪演算法就稍微有點抽象了。`kafka`、`netty`都有基於時間輪演算法實現延時佇列,下邊主要實踐`Netty`的延時佇列講一下時間輪是什麼原理。 先來看一張時間輪的原理圖,解讀一下時間輪的幾個基本概念 ![在這裡插入圖片描述](https://img-blog.csdnimg.cn/20200507145532281.png#pic_center) `wheel` :時間輪,圖中的圓盤可以看作是鐘錶的刻度。比如一圈`round` 長度為`24秒`,刻度數為 `8`,那麼每一個刻度表示 `3秒`。那麼時間精度就是 `3秒`。時間長度 / 刻度數值越大,精度越大。 當新增一個定時、延時`任務A`,假如會延遲`25秒`後才會執行,可時間輪一圈`round` 的長度才`24秒`,那麼此時會根據時間輪長度和刻度得到一個圈數 `round`和對應的指標位置 `index`,也是就`任務A`會繞一圈指向`0格子`上,此時時間輪會記錄該任務的`round`和 `index`資訊。當round=0,index=0 ,指標指向`0格子 ` `任務A`並不會執行,因為 round=0不滿足要求。 所以每一個格子代表的是一些時間,比如`1秒`和`25秒` 都會指向0格子上,而任務則放在每個格子對應的連結串列中,這點和`HashMap`的資料有些類似。 `Netty`構建延時佇列主要用`HashedWheelTimer`,`HashedWheelTimer`底層資料結構依然是使用`DelayedQueue`,只是採用時間輪的演算法來實現。 下面我們用`Netty` 簡單實現延時佇列,`HashedWheelTimer`建構函式比較多,解釋一下各引數的含義。 - `ThreadFactory` :表示用於生成工作執行緒,一般採用執行緒池; - `tickDuration`和`unit`:每格的時間間隔,預設100ms; - `ticksPerWheel`:一圈下來有幾格,預設512,而如果傳入數值的不是2的N次方,則會調整為大於等於該引數的一個2的N次方數值,有利於優化`hash`值的計算。 ```java public HashedWheelTimer(ThreadFactory threadFactory, long tickDuration, TimeUnit unit, int ticksPerWheel) { this(threadFactory, tickDuration, unit, ticksPerWheel, true); } ``` - `TimerTask`:一個定時任務的實現介面,其中run方法包裝了定時任務的邏輯。 - `Timeout`:一個定時任務提交到`Timer`之後返回的控制代碼,通過這個控制代碼外部可以取消這個定時任務,並對定時任務的狀態進行一些基本的判斷。 - `Timer`:是`HashedWheelTimer`實現的父介面,僅定義瞭如何提交定時任務和如何停止整個定時機制。 ```java public class NettyDelayQueue { public static void main(String[] args) { final Timer timer = new HashedWheelTimer(Executors.defaultThreadFactory(), 5, TimeUnit.SECONDS, 2); //定時任務 TimerTask task1 = new TimerTask() { public void run(Timeout timeout) throws Exception { System.out.println("order1 5s 後執行 "); timer.newTimeout(this, 5, TimeUnit.SECONDS);//結束時候再次註冊 } }; timer.newTimeout(task1, 5, TimeUnit.SECONDS); TimerTask task2 = new TimerTask() { public void run(Timeout timeout) throws Exception { System.out.println("order2 10s 後執行"); timer.newTimeout(this, 10, TimeUnit.SECONDS);//結束時候再註冊 } }; timer.newTimeout(task2, 10, TimeUnit.SECONDS); //延遲任務 timer.newTimeout(new TimerTask() { public void run(Timeout timeout) throws Exception { System.out.println("order3 15s 後執行一次"); } }, 15, TimeUnit.SECONDS); } } ``` 從執行的結果看,`order3`、`order3`延時任務只執行了一次,而`order2`、`order1`為定時任務,按照不同的週期重複執行。 ```java order1 5s 後執行 order2 10s 後執行 order3 15s 後執行一次 order1 5s 後執行 order2 10s 後執行 ``` #### 總結 為了讓大家更容易理解,上邊的程式碼寫的都比較簡單粗糙,幾種實現方式的`demo`已經都提交到`github` 地址:`https://github.com/chengxy-nds/delayqueue`,感興趣的小夥伴可以下載跑一跑。 這篇文章肝了挺長時間,寫作一點也不比上班幹活輕鬆,查證資料反覆驗證demo的可行性,搭建各種`RabbitMQ`、`Redis`環境,只想說我太難了! 可能寫的有不夠完善的地方,如哪裡有錯誤或者不明瞭的,歡迎大家踴躍指正!!! #### 最後 原創不易,碼字不易,來點個贊吧~ 幾百本各類技術電子書相送,噓~,**免費** 送給小夥伴們。關注我的公號【程式設計師內點事】,回覆【**666**】,無套路自行領取哦 ![](https://imgconvert.csdnimg.cn/aHR0cHM6Ly91c2VyLWdvbGQtY2RuLnhpdHUuaW8vMjAyMC8yLzQvMTcwMGU0Mjk1MDQzMjQ0Yg?x-oss-process=image/form