轉載：MQ入門總結（一）消息隊列概念和使用場景

一、消息隊列

　　消息即是信息的載體。為了讓消息發送者和消息接收者都能夠明白消息所承載的信息（消息發送者需要知道如何構造消息；消息接收者需要知道如何解析消息），它們就需要按照一種統一的格式描述消息，這種統一的格式稱之為消息協議。所以，有效的消息一定具有某一種格式；而沒有格式的消息是沒有意義的。

　　而消息從發送者到接收者的方式也有兩種。一種我們可以稱為即時消息通訊，也就是說消息從一端發出後（消息發送者）立即就可以達到另一端（消息接收者），這種方式的具體實現就是我們已經介紹過的RPC（當然單純的http通訊也滿足這個定義）；另一種方式稱為延遲消息通訊

二、消息隊列的應用場景

　　以下介紹消息隊列在實際應用中常用的使用場景。異步處理，應用解耦，流量削鋒和消息通訊四個場景。

2.1異步處理

場景說明：用戶註冊後，需要發註冊郵件和註冊短信。傳統的做法有兩種1.串行的方式；2.並行方式。

（1）串行方式：將註冊信息寫入數據庫成功後，發送註冊郵件，再發送註冊短信。以上三個任務全部完成後，返回給客戶端。

（2）並行方式：將註冊信息寫入數據庫成功後，發送註冊郵件的同時，發送註冊短信。以上三個任務完成後，返回給客戶端。與串行的差別是，並行的方式可以提高處理的時間。

　　假設三個業務節點每個使用50毫秒鐘，不考慮網絡等其他開銷，則串行方式的時間是150毫秒，並行的時間可能是100毫秒。因為CPU在單位時間內處理的請求數是一定的，假設CPU1秒內吞吐量是100次。則串行方式1秒內CPU可處理的請求量是7次（1000/150）。並行方式處理的請求量是10次（1000/100）。

　　小結：如以上案例描述，傳統的方式系統的性能（並發量，吞吐量，響應時間）會有瓶頸。如何解決這個問題呢？

　　引入消息隊列，將不是必須的業務邏輯，異步處理。改造後的架構如下：

　　　　按照以上約定，用戶的響應時間相當於是註冊信息寫入數據庫的時間，也就是50毫秒。註冊郵件，發送短信寫入消息隊列後，直接返回，因此寫入消息隊列的速度很快，基本可以忽略，因此用戶的響應時間可能是50毫秒。因此架構改變後，系統的吞吐量提高到每秒20 QPS。比串行提高了3倍，比並行提高了兩倍。

2.2應用解耦

　　場景說明：用戶下單後，訂單系統需要通知庫存系統。傳統的做法是，訂單系統調用庫存系統的接口。如下圖：

傳統模式的缺點：

1） 假如庫存系統無法訪問，則訂單減庫存將失敗，從而導致訂單失敗；

2） 訂單系統與庫存系統耦合；

如何解決以上問題呢？引入應用消息隊列後的方案，如下圖：

• 訂單系統：用戶下單後，訂單系統完成持久化處理，將消息寫入消息隊列，寫入消息隊列返回用戶訂單下單成功。（如果庫存沒有貨怎麽辦？？）
• 庫存系統：訂閱下單的消息，采用拉/推的方式，獲取下單信息，庫存系統根據下單信息，進行庫存操作。
• 假如：在下單時庫存系統不能正常使用。也不影響正常下單，因為下單後，訂單系統寫入消息隊列就不再關心其他的後續操作了。實現訂單系統與庫存系統的應用解耦。

2.3流量削鋒

　　流量削鋒也是消息隊列中的常用場景，一般在秒殺或團搶活動中使用廣泛。

　　應用場景：秒殺活動，一般會因為流量過大，導致流量暴增，應用掛掉。為解決這個問題，一般需要在應用前端加入消息隊列。

1. 可以控制活動的人數；
2. 可以緩解短時間內高流量壓垮應用；

1. 用戶的請求，服務器接收後，首先寫入消息隊列。假如消息隊列長度超過最大數量，則直接拋棄用戶請求或跳轉到錯誤頁面；
2. 秒殺業務根據消息隊列中的請求信息，再做後續處理。

2.4日誌處理

日誌處理是指將消息隊列用在日誌處理中，比如Kafka的應用，解決大量日誌傳輸的問題。架構簡化如下：

• 日誌采集客戶端，負責日誌數據采集，定時寫受寫入Kafka隊列；
• Kafka消息隊列，負責日誌數據的接收，存儲和轉發；
• 日誌處理應用：訂閱並消費kafka隊列中的日誌數據；

以下是新浪kafka日誌處理應用案例：轉自（新浪技術分享：我們如何扛下32億條實時日誌的分析處理）

(1)Kafka：接收用戶日誌的消息隊列。

(2)Logstash：做日誌解析，統一成JSON輸出給Elasticsearch。

(3)Elasticsearch：實時日誌分析服務的核心技術，一個schemaless，實時的數據存儲服務，通過index組織數據，兼具強大的搜索和統計功能。

(4)Kibana：基於Elasticsearch的數據可視化組件，超強的數據可視化能力是眾多公司選擇ELK stack的重要原因。

2.5消息通訊

消息通訊是指，消息隊列一般都內置了高效的通信機制，因此也可以用在純的消息通訊。比如實現點對點消息隊列，或者聊天室等。

點對點通訊：

客戶端A和客戶端B使用同一隊列，進行消息通訊。

聊天室通訊：

客戶端A，客戶端B，客戶端N訂閱同一主題，進行消息發布和接收。實現類似聊天室效果。

以上實際是消息隊列的兩種消息模式，點對點或發布訂閱模式。

三、消息模式

1. 點對點模式和發布訂閱模式：是否可以重復消費

P2P模式：

P2P模式包含三個角色：消息隊列（Queue），發送者(Sender)，接收者(Receiver)。每個消息都被發送到一個特定的隊列，接收者從隊列中獲取消息。隊列保留著消息，直到他們被消費或超時。

P2P的特點

1. 每個消息只有一個消費者（Consumer）(即一旦被消費，消息就不再在消息隊列中)
2. 發送者和接收者之間在時間上沒有依賴性，也就是說當發送者發送了消息之後，不管接收者有沒有正在運行，它不會影響到消息被發送到隊列
3. 接收者在成功接收消息之後需向隊列應答成功

如果希望發送的每個消息都會被成功處理的話，那麽需要P2P模式。、

Pub/sub模式：

　　包含三個角色：主題（Topic），發布者（Publisher），訂閱者（Subscriber） 。多個發布者將消息發送到Topic,系統將這些消息傳遞給多個訂閱者。

Pub/Sub的特點

1. 每個消息可以有多個消費者
2. 發布者和訂閱者之間有時間上的依賴性。針對某個主題（Topic）的訂閱者，它必須創建一個訂閱者之後，才能消費發布者的消息。
3. 為了消費消息，訂閱者必須保持運行的狀態。

為了緩和這樣嚴格的時間相關性，JMS允許訂閱者創建一個可持久化的訂閱。這樣，即使訂閱者沒有被激活（運行），它也能接收到發布者的消息。
如果希望發送的消息可以不被做任何處理、或者只被一個消息者處理、或者可以被多個消費者處理的話，那麽可以采用Pub/Sub模型。

2. 推模式和拉模式：消息的更新者

推(push)模式是一種基於C/S機制、由服務器主動將信息送到客戶器的技術。

1. 在push模式應用中，服務器把信息送給客戶器之前，並沒有明顯的客戶請求。push事務由服務器發起。push模式可以讓信息主動、快速地尋找用戶/客戶器，信息的主動性和實時性比較好。但精確性較差，可能推送的信息並不一定滿足客戶的需求。

2. 推送模式不能保證能把信息送到客戶器，因為推模式采用了廣播機制，如果客戶器正好聯網並且和服務器在同一個頻道上，推送模式才是有效的。

3. push模式無法跟蹤狀態，采用了開環控制模式，沒有用戶反饋信息。在實際應用中，由客戶器向服務器發送一個申請，並把自己的地址（如IP、port）告知服務器，然後服務器就源源不斷地把信息推送到指定地址。在多媒體信息廣播中也采用了推模式。

拉（pull）模式與推模式相反，是由客戶器主動發起的事務。

服務器把自己所擁有的信息放在指定地址（如IP、port），客戶器向指定地址發送請求，把自己需要的資源“拉”回來。不僅可以準確獲取自己需要的資源，還可以及時把客戶端的狀態反饋給服務器。

MQ消息隊列（一）消息隊列概念和使用場景