訊息佇列總結
前言：關於訊息佇列應該大家都不陌生,在實際的專案中訊息佇列也無處不在,今天我和大家分享一下關於訊息佇列的問題。
1、訊息佇列定義
訊息佇列大家又經常稱為MQ(message queue),從字面的含義來看就是一個存放訊息的容器。
2、訊息佇列應用場景
2.1、非同步處理
2.2、系統解耦
2.3、流量削峰
3、訊息佇列順序性
提到mq那麼我們必然會討論mq順序性問題,比如生產者傳送訊息1,2,3...對於消費者必須按照1,2,3...這樣的順序來消費,那麼訊息佇列應該怎麼樣去考慮這樣事情呢,有人說了訊息佇列是先進先出不就保證了順序性,其實並非如此,而且想通過佇列來保證順序性是非常困難的,那麼我們來看看為什麼說非常困難的。
對於生產者而言
比如生產者連續傳送1、2、3但是不久2和3返回結果成功,唯獨1返回結果是失敗,這個時候如果我們重發1那麼順序肯定就會亂了。
對於儲存端而言
訊息佇列不可能分割槽進行儲存,也就是一個topic的訊息只能採用一個佇列儲存,如果一個topic採用多個佇列就不可能保證順序
對於消費者而言
對於消費端來說還不可以並行消費,也就是不可以開啟多執行緒或者多個客戶端來進行消費
3.1、訊息佇列順序性分析1：
假設我們現在想要保證s1和s2兩條訊息順序被消費可能想設計如上圖所示,假定生產者先發送s1然後在傳送s2,如果想保證s1先被消費,那麼需要s1到達消費端後在通知mq2,然後mq2在傳送訊息。但是其實這是理想的模型,可能會出現如下2個問題
1、s1不一定要比s2先到mq叢集(比如網路延遲)
2、s2到達mq叢集並且已經消費完畢,s1還沒到達mq叢集,這就會出現亂序
所有我們想要s1比s2先消費最簡單粗暴的方式就是s1和s2傳送同一臺server上,這樣根據佇列先進先出原則,肯定s1要比s2先消費
3.2、訊息佇列順序性分析2：
但是這種模型僅僅是理論上的可行,因為可能出現網路延遲,比如s2比是s1先到達消費端,我們同樣無法保證訊息的順序,這樣一來我們可能傳送s1等消費者響應後然後在發s2。
3.3、訊息佇列順序性分析3：
但是我們知道消費者可能出現2種情況
1、消費者沒有響應(可能消費成功沒有響應,也可能消費失敗沒有響應)
2、消費者響應成功
對於沒有響應的mq叢集可以進行重發訊息,如果消費成功重發就會導致訊息重新處理,這樣一來就會帶來新的問題,重複問題下面說
綜上我們可以得出想保證訊息順序性最簡單可行方式就是生產者->mq->消費者這樣一一對應關係,但是同樣會帶來如下2個問題
1、吞吐量不足
2、可用性低
3.4、訊息佇列順序性分析4：
任何設計都離不開業務的本身,我們可以從業務來考慮順序訊息
1、不關注亂序的應用實際大量存在
2、佇列無序不表示訊息無序
註釋：對於同一種訊息放入同一個佇列中,同一種訊息可以通過topic主題來進行標記。
綜上我們可以可以總結出來為了保證訊息的順序性要從生產者、儲存端、消費者三個角度來考慮
1、生產端必須保證訊息成功傳送以後才能繼續傳送第二條
2、儲存端必須要求同一種訊息必須存放在同一個佇列中
3、消費端不可以採用併發消費
4、訊息佇列重複性
訊息重複由業務端來保證如上圖
5、訊息佇列可靠性
生產者： ack確認機制 訊息重發
消費者：手動ack確認,訊息重新請求,或者重試等
訊息佇列：如下圖所示
1、對於業務方進行限流,避免惡意刷訊息
2、伺服器採用負載均衡避免一臺服務宕機而不可用
3、訊息採用持久化,避免斷電等原因導致訊息丟失
6、訊息佇列儲存
訊息佇列儲存一般採用邏輯儲存和物理儲存如下圖所示
1、邏輯儲存放入記憶體,主要儲存偏移量、訊息主題等,同時將儲存內容刷入磁碟避免丟失
2、物理採用檔案進行儲存,定期對檔案進行歸檔
6、訊息佇列的缺點
6.1、服務可用性降低
加入訊息佇列後,如果出現mq叢集宕機,那麼就可能會導致服務不可用
6.2、服務複雜度增加
加入訊息佇列以後就不得不考慮訊息一致性、可靠性、重複性等問題無疑加大了服務的難度