1. 程式人生 > >成小胖學習ActiveMQ·基礎篇

成小胖學習ActiveMQ·基礎篇

成小胖學習ActiveMQ·基礎篇

過了個春節,回到公司的成小胖變成了成大胖。但是你們千萬別以為他那個大肚子裡面裝的都是肥肉,裡面的墨水也多了不少嘞,畢竟成小胖利用春節的半個月時間專心學習並研究了 ActiveMQ,嘿嘿……
這不,為了檢驗下自己的學習成果,上班的第一天成小胖就去找架構師老王交流 ActiveMQ 相關的知識,還順便向老王討了個紅包,可把成小胖給高興壞了。
來,根據你的瞭解說下 ActiveMQ 是什麼。”

“這個簡單,ActiveMQ 是一個 MOM,具體來說是一個實現了 JMS 規範的系統間遠端通訊的訊息代理。它……”

等等,先解釋下什麼是 MOM。”

“好。MOM 就是面向訊息中介軟體(Message-oriented middleware),是用於以分散式應用或系統中的非同步、鬆耦合、可靠、可擴充套件和安全通訊的一類軟體。MOM 的總體思想是它作為訊息傳送器和訊息接收器之間的訊息中介,這種中介提供了一個全新水平的鬆耦合。”

JMS呢?

成小胖是個追求極致的人,為了解釋得更通俗易懂,索性搬來一塊白板邊畫邊說。

“JMS 叫做 Java 訊息服務(Java Message Service),是 Java 平臺上有關面向 MOM 的技術規範,旨在通過提供標準的產生、傳送、接收和處理訊息的 API 簡化企業應用的開發,類似於 JDBC 和關係型資料庫通訊方式的抽象。”


嗯,很好。下面的這些概念你也需要特別理解下

  • Provider:純 Java 語言編寫的 JMS 介面實現(比如 ActiveMQ 就是)
  • Domains:訊息傳遞方式,包括點對點(P2P)、釋出/訂閱(Pub/Sub)兩種
  • Connection factory:客戶端使用連線工廠來建立與 JMS provider 的連線
  • Destination:訊息被定址、傳送以及接收的物件

你來說說這其中 P2P 和 Pub/Sub 的區別吧”,老王給成小胖丟擲了一個問題。

成小胖可不是吃素的,畢竟要是吃素的話他也吃不到這麼胖……這些基本概念對他來說都是小事一樁:

P2P (點對點)訊息域使用 queue 作為 Destination,訊息可以被同步或非同步的傳送和接收,每個訊息只會給一個 Consumer 傳送一次。

Consumer 可以使用 MessageConsumer.receive() 同步地接收訊息,也可以通過使用MessageConsumer.setMessageListener() 註冊一個 MessageListener 實現非同步接收。

多個 Consumer 可以註冊到同一個 queue 上,但一個訊息只能被一個 Consumer 所接收,然後由該 Consumer 來確認訊息。並且在這種情況下,Provider 對所有註冊的 Consumer 以輪詢的方式傳送訊息。

Pub/Sub(釋出/訂閱,Publish/Subscribe)訊息域使用 topic 作為 Destination,釋出者向 topic 傳送訊息,訂閱者註冊接收來自 topic 的訊息。傳送到 topic 的任何訊息都將自動傳遞給所有訂閱者。接收方式(同步和非同步)與 P2P 域相同。
除非顯式指定,否則 topic 不會為訂閱者保留訊息。當然,這可以通過持久化(Durable)訂閱來實現訊息的儲存。這種情況下,當訂閱者與 Provider 斷開時,Provider 會為它儲存訊息。當持久化訂閱者重新連線時,將會受到所有的斷連期間未消費的訊息。

“嗯,總結的很不錯,上面的這些知識是學習 ActiveMQ 的理論基礎,是必須要掌握的。”

“既然 JMS 是一個通用的規範,那麼使用它建立應用程式肯定也有一個通用的步驟吧?”老王追問道。

“有的有的。要不您來說說這個通用步驟?就當我考考您,哈哈!”成小胖故作聰明,自以為老王作為架構師不會關注這些太具體的實現細節。

然而老王平日裡親力親為,至今還常常擼程式碼,怎麼會被這種小 case 所難倒?於是老王分分鐘給出答案:

  • 獲取連線工廠
  • 使用連線工廠建立連線
  • 啟動連線
  • 從連線建立會話
  • 獲取 Destination
  • 建立 Producer,或
    • 建立 Producer
    • 建立 message
  • 建立 Consumer,或傳送或接收message傳送或接收 message
    • 建立 Consumer
    • 註冊訊息監聽器(可選)
  • 傳送或接收 message
  • 關閉資源(connection, session, producer, consumer 等)

“66666,厲害啊我的王哥!”成小胖的小聰明被老王擊得粉碎!

“你嘴皮子耍夠了吧,還是多動動手吧。現在你手寫上面步驟對應的程式碼實現吧”,老王給了成小胖一個眼神,讓他自己慢慢體會……

成小胖也不是省油的燈,馬上擦乾淨白板,現場擼了起來(是擼程式碼,擼程式碼,擼程式碼,重要的事情說三遍):

複製程式碼

public class JMSDemo {
        ConnectionFactory connectionFactory;
        Connection connection;
        Session session;
        Destination destination;
        MessageProducer producer;
        MessageConsumer consumer;
        Message message;
        boolean useTransaction = false;
        try {
                Context ctx = new InitialContext();
                connectionFactory = (ConnectionFactory) ctx.lookup("ConnectionFactoryName");
                //使用ActiveMQ時:connectionFactory = new ActiveMQConnectionFactory(user, password, getOptimizeBrokerUrl(broker));
                connection = connectionFactory.createConnection();
                connection.start();
                session = connection.createSession(useTransaction, Session.AUTO_ACKNOWLEDGE);
                destination = session.createQueue("TEST.QUEUE");
                //生產者傳送訊息
                producer = session.createProducer(destination);
                message = session.createTextMessage("this is a test");

                //消費者同步接收
                consumer = session.createConsumer(destination);
                message = (TextMessage) consumer.receive(1000);
                System.out.println("Received message: " + message);
                //消費者非同步接收
                consumer.setMessageListener(new MessageListener() {
                        @Override
                        public void onMessage(Message message) {
                                if (message != null) {
                                        doMessageEvent(message);
                                }
                        }
                });
        } catch (JMSException e) {
                ...
        } finally {
                producer.close();
                session.close();
                connection.close();
        }
}

複製程式碼

老王滿意的點點頭:“還算不賴哈~ JMS 通用的規範咱們都聊完了,下面就來聊點 ActiveMQ 更具體點的東西咯。”

“好啊好啊。要不我先基於自己的學習講講 ActiveMQ 的儲存,您看看我哪裡講的不對或者遺漏的,可好?”成小胖發揮了他一貫的積極主動的作風,當然內心裡還是想得到老王的讚許。

“行,那就開始吧。”

ActiveMQ 在 queue 中儲存 Message 時,採用先進先出順序(FIFO)儲存。同一時間一個訊息被分派給單個消費者,且只有當 Message 被消費並確認時,它才能從儲存中刪除。

對於持久化訂閱者來說,每個消費者獲得 Message 的副本。為了節省儲存空間,Provider 僅儲存訊息的一個副本。持久化訂閱者維護了指向下一個 Message 的指標,並將其副本分派給消費者。以這種方式實現訊息儲存,因為每個持久化訂閱者可能以不同的速率消費 Message,或者它們可能不是全部同時執行。此外,因每個 Message 可能存在多個消費者,所以在它被成功地傳遞給所有持久化訂閱者之前,不能從儲存中刪除。

很好,上面這段知識非常重要。其實我們可以通過表格來更清晰地展示”,老王補充道,並在白板上畫了以下表格:

訊息型別 是否持久化 是否有Durable訂閱者 消費者延遲啟動時,訊息是否保留 Broker重啟時,訊息是否保留
Queue N - Y N
Queue Y - Y Y
Topic N N N N
Topic N Y Y N
Topic Y N N N
Topic Y Y Y Y

成小胖雖然對以上特性做過實踐對比,但是並沒有想到去畫一個表格出來使對比更加清晰易懂。特別是當他看到老王隨時就畫出這個表格時便驚歎不已,大聲喊道:“老王你太牛了,真是愛死你了!”

周圍的同事聽到後,都齊刷刷的往這邊看過來。

此情此景,老王也不好意思了:“誒誒誒,說話注意哈,不要讓人覺得我們在搞基。迴歸正題,你再說說 ActiveMQ 常用的儲存方式吧。

成小胖羞澀的點點頭,迅速地迴歸原態,一五一十地說起來。

1.KahaDB

ActiveMQ 5.3 版本起的預設儲存方式。KahaDB儲存是一個基於檔案的快速儲存訊息,設計目標是易於使用且儘可能快。它使用基於檔案的訊息資料庫意味著沒有第三方資料庫的先決條件。

要啟用 KahaDB 儲存,需要在 activemq.xml 中進行以下配置:

複製程式碼

<broker brokerName="broker" persistent="true" useShutdownHook="false">
        <persistenceAdapter>
                <kahaDB directory="${activemq.data}/kahadb" journalMaxFileLength="16mb"/>
        </persistenceAdapter>
</broker>

複製程式碼

2.AMQ

與 KahaDB 儲存一樣,AMQ儲存使使用者能夠快速啟動和執行,因為它不依賴於第三方資料庫。AMQ 訊息儲存庫是可靠永續性和高效能索引的事務日誌組合,當訊息吞吐量是應用程式的主要需求時,該儲存是最佳選擇。但因為它為每個索引使用兩個分開的檔案,並且每個 Destination 都有一個索引,所以當你打算在代理中使用數千個佇列的時候,不應該使用它。

複製程式碼

<persistenceAdapter>
        <amqPersistenceAdapter
                directory="${activemq.data}/kahadb"
                syncOnWrite="true"
                indexPageSize="16kb"
                indexMaxBinSize="100"
                maxFileLength="10mb" />
</persistenceAdapter>

複製程式碼

 3.JDBC

選擇關係型資料庫,通常的原因是企業已經具備了管理關係型資料的專長,但是它在效能上絕對不優於上述訊息儲存實現。事實是,許多企業使用關係資料庫作為儲存,是因為他們更願意充分利用這些資料庫資源。

複製程式碼

<beans>
        <broker brokerName="test-broker" persistent="true" xmlns="http://activemq.apache.org/schema/core">
                <persistenceAdapter>
                        <jdbcPersistenceAdapter dataSource="#mysql-ds"/>
                </persistenceAdapter>
        </broker>
        <bean id="mysql-ds" class="org.apache.commons.dbcp.BasicDataSource" destroy-method="close">
                <property name="driverClassName" value="com.mysql.jdbc.Driver"/>
                <property name="url" value="jdbc:mysql://localhost/activemq?relaxAutoCommit=true"/>
                <property name="username" value="activemq"/>
                <property name="password" value="activemq"/>
                <property name="maxActive" value="200"/>
                <property name="poolPreparedStatements" value="true"/>
        </bean>
</beans>

複製程式碼

 4.記憶體儲存

記憶體訊息儲存器將所有持久訊息儲存在記憶體中。在僅儲存有限數量 Message 的情況下,記憶體訊息儲存會很有用,因為 Message 通常會被快速消耗。在 activema.xml 中將 broker 元素上的 persistent 屬性設定為 false 即可。

複製程式碼

<broker brokerName="test-broker" persistent="false" xmlns="http://activemq.apache.org/schema/core">
        <transportConnectors>
                <transportConnector uri="tcp://localhost:61635"/>
        </transportConnectors>
</broker>

複製程式碼

老王聽完後露出讚許的笑容:“連配置都能寫的這麼詳細,看來你確實是做了不少功課,給你點個贊。”老王終究不會吝嗇自己的讚美,他也明白這些讚美對成小胖意味著什麼。

成小胖得到了老王的讚賞,心裡也是吃了蜜一般。

沒等成小胖說話,老王拿起筆走到白板前,說:“下面就根據我在工作中的經歷,給你講講 ActiveMQ 的部署模式。

1.單例模式

這個就不囉嗦了,略過。

2.無共享主從模式

這是最簡單的 Provider 高可用性的方案,主從節點分別儲存 Message。從節點需要配置為連線到主節點,並且需要特殊配置其狀態。

所有訊息命令(訊息,確認,訂閱,事務等)都從主節點複製到從節點,這種複製發生在主節點對其接收的任何命令生效之前。並且,當主節點收到持久訊息,會等待從節點完成訊息的處理(通常是持久化到儲存),然後再自己完成訊息的處理(如持久化到儲存)後,再返回對 Producer 的回執。

從節點不啟動任何傳輸,也不能接受任何客戶端或網路連線,除非主節點失效。當主節點失效後,從節點自動成為主節點,並且開啟傳輸並接受連線。這是,使用 failover 傳輸的客戶端就會連線到該新主節點。

Broker 連線配置如下:

failover://(tcp://masterhost:61616,tcp://slavehost:61616)?randomize=false

但是,這種部署模式有一些限制,

  • 主節點只會在從節點連線到主節點時複製其活動狀態,因此當從節點沒有連線上主節點之前,任何主節點處理的 Message 或者訊息確認都會在主節點失效後丟失。不過你可以通過在主節點設定 waitForSlave 來避免,這樣就強制主節點在沒有任何一個從節點連線上的情況下接受連線。
  • 就是主節點只能有一個從節點,並且從節點不允許再有其他從節點。
  • 把正在執行的單例配置成無共享主從,或者配置新的從節點時,你都要停止當前服務,修改配置後再重啟才能生效。

在可以接受一些故障停機時間的情況下,可以使用該模式。

從節點配置:

<services>
        <masterConnector remoteURI="tcp://remotehost:62001" userName="Rob" password="Davies"/>
</services>

此外,可以配置 shutdownOnMasterFailure 項,表示主節點失效後安全關閉,保證沒有訊息丟失,允許管理員維護一個新的從節點。

3.共享儲存主從模式

允許多個代理共享儲存,但任意時刻只有一個是活動的。這種情況下,當主節點失效時,無需人工干預來維護應用的完整性。另外一個好處就是沒有從節點數的限制。

有兩種細分模式:

(1)基於資料庫

它會獲取一個表上的排它鎖,以確保沒有其他 ActiveMQ 代理可以同時訪問資料庫。其他未獲得鎖的代理則處於輪詢狀態,就會被當做是從節點,不會開啟傳輸也不會接受連線。


(2)基於檔案系統

需要獲取分散式共享檔案鎖,linux 系統下推薦用 GFS2。

看到這些乾貨,成小胖欣喜若狂一邊聽一邊記,等老王講完後他還沒記完。而老王則趁機喝了杯鐵觀音潤潤嗓子。

在記錄完老王所講的部署模式後,成小胖也不好意思再讓老王繼續講下去了,畢竟他知道老王常年加班腰間盤突出,不能長時間站著。

“王哥您坐著休息下,我再給您講講我所理解的 ActiveMQ 的網路連線,中不中?”

“中。沒事兒,我身體好著呢~”老王知道成小胖擔心他的腰,但他還是那個倔脾氣。成小胖也不敢多耽誤時間,立馬開講。

1.代理網路

支援將 ActiveMQ 訊息代理連結到不同拓撲,這就是被人們熟知的代理網路。

ActiveMQ 網路使用儲存和轉發的概念,其中訊息總是儲存在本地代理中,然後通過網路轉發到另一個代理。


當連線建立後,遠端代理將把包含其所有持久和活動消費者目的地的資訊傳遞給本地代理,本地代理根據資訊決定遠端代理感興趣的 Message 並將它傳送給遠端代理。

如果希望網路是雙向的,您可以使用網路聯結器將遠端代理配置為指向本地代理,或將網路聯結器配置為雙工,以便雙向傳送訊息。

複製程式碼

<networkConnectors>
        <networkConnector uri="static://(tcp://backoffice:61617)"
                              name="bridge"
                              duplex="true"
                              conduitSubscriptions="true"
                              decreaseNetworkConsumerPriority="false">
        </networkConnector>
</networkConnectors>

複製程式碼

注意,配置的順序很重要:

    1.網路連線——需要在訊息儲存前建立好連線,對應 networkConnectors 元素
    2.訊息儲存——需要在傳輸前配置好,對應 persistenceAdapter 元素
    3.訊息傳輸——最後配置,對應 transportConnectors 元素

2.網路發現

(1)動態發現

使用多播來支援網路動態發現。配置如下:

<networkConnectors>
    <networkConnector uri="multicast://default"/>
</networkConnectors>

其中,multicast:// 中的預設名稱表示該代理所屬的組。因此使用此方式時,強烈推薦你使用一個獨特的組名,避免你的代理連線到其他不相關代理。

(2)靜態發現

靜態發現接受代理 URI 列表,並將嘗試按列表中確定的順序連線到遠端代理。

<networkConnectors>
    <networkConnector uri="static:(tcp://remote-master:61617,tcp://remote-slave:61617)"/>
</networkConnectors>

相關配置如下:

  • initialReconnectDelay:預設值1000,表示嘗試連線前的時延。
  • maxReconnectDelay:預設值30000,表示連線失敗後到重新建立連線之間的時延,僅在 useExponentialBackOff 啟用時生效。
  • useExponentialBackOff:預設值 true,如果啟用,表示每次失敗後增加重建連線的時延。
  • backOffMultiplier:預設值2,表示啟用 useExponentialBackOff 後每次的時延增量需要注意的是,網路連線將始終嘗試建立到遠端代理的連線。

需要注意的是,網路連線將始終嘗試建立到遠端代理的連線。

(3)多連線場景


當網路負載高時,使用多連線很有意義。但是你需要確保不會重複傳遞訊息,這可以通過過濾器來實現。

複製程式碼

<networkConnectors>
    <networkConnector uri="static://(tcp://remotehost:61617)"
                              name="queues_only"
                              duplex="true"
        <excludedDestinations>
            <topic physicalName=">"/>
        </excludedDestinations>
    </networkConnector>
    <networkConnector uri="static://(tcp://remotehost:61617)"
                              name="topics_only"
                              duplex="true"
        <excludedDestinations>
            <queue physicalName=">"/>
        </excludedDestinations>
    </networkConnector>
</networkConnectors>

複製程式碼

講完後成小胖如釋重負,因為上面這些知識點雖然看起來很少,但他卻花了很多時間看了很多英文資料,同時反覆實踐才理解透的呢。

在成小胖講的這段時間,老王一直坐在轉椅上,這會兒他的腰也舒服了很多。老王站起來拍了拍成小胖的肩膀:“這個知識點雖然理解起來有點晦澀,但是你解釋得還是挺不錯的。通過今天的交流,可以看出你對 ActiveMQ 的基礎知識有了不錯的掌握,今後呢還是要多加深入實踐,這樣才能使用它提供高質量的服務。”

老王的手機突然響了,是要去開會了:“今天就到這兒吧,我有個會議要參加。”

“好,謝謝王哥的耐心指導。希望你多注意身體。”

老王鬼魅的一笑:“嗯,放心吧,隔壁有對年輕人剛結婚,聽Ta們說最近想要個小baby,所以我肯定會保養好自己的身體的。”

成小胖:“……”

“哈哈,開玩笑的!”

“……”

 

作者:cyfonly

出處:http://www.cnblogs.com/cyfonly/

本文版權歸作者和部落格園共有,歡迎轉載,未經同意須保留此段宣告,且在文章頁面明顯位置給出原文連線。歡迎指正與交流。

分類: MQ

標籤: activemq