ActiveMQ 填坑記
Mysql 持久化
現在大家使用MQ,基本都是會把資料進行持久化,MQ預設儲存持久化資料使用kahaDB,但是鑑於大家對mysql比較熟悉,很多人會選擇mysql進行資料的持久化,因為mysql檢視資料還是比較方便的。如果需要把持久化方式改為mysql,則需要修改如下配置:
<persistenceAdapter>
<jdbcPersistenceAdapter dataDirectory="${activemq.data}" dataSource="#mysql-ds" createTablesOnStartup="false" useDatabaseLock="false"/>
<!-- 下面是預設的kahaDB方式,註釋掉 -->
<!-- <kahaDB directory="${activemq.data}/kahadb"/> -->
</persistenceAdapter>
這裡的配置有幾個地方大家需要關注下:
配置 說明
dataDirectory 需要配置和broker 的dataDirectory 一致
dataSource 資料來源的選擇,關聯資料庫的具體配置,下文會具體說明
useDatabaseLock 是否使用資料庫鎖,主要是在程式啟動的時候會同步查詢資料,導致資料庫鎖
還需要配置資料庫的連線、賬號、密碼等:
<!-- MySql DataSource Setup -->
<bean id="mysql-ds" class="org.apache.commons.dbcp2.BasicDataSource" destroy-method="close">
<property name="driverClassName" value="com.mysql.jdbc.Driver"/>
<property name="url" value="jdbc:mysql://0.0.0.0:3306/activemq?relaxAutoCommit=true"/>
<property name="username" value="root"/>
<property name="password" value="**"/>
<property name="poolPreparedStatements" value="true"/>
</bean>
其中,id 名和上文提到的datasource應該是一樣的。否則,不知道連線哪個例項。
資料庫連線池問題
啟動activemq如果提示資料庫的連線池有問題,這可能是少了lib,增加
mysql-connector-java-5.1.30.jar
commons-dbcp2-2.1.1.jar
commons-pool2-2.4.2.jar
三個包,放到lib目錄即可
管理介面無法開啟
如果正常啟動了,但是管理介面無法啟動,那麼需要修改下管理介面的資料庫連線。
使用MQ主要原因之一是MQ效能比傳統關係資料庫效能要好,但是把MQ資料儲存的mysql其實不是一個很好的選擇,反其道而行之,雖然這樣用的團隊不少,但是強烈推薦不要這麼做。還是用預設的儲存方式,確保效能為主。
activeMQ過期配置
前文說過,activemq效能本來就不是最優的,特別是使用了mysql作為資料庫儲存工具後,效能更加不靠譜,所以效能優化,是個重要的工作,定期清理MQ的過期資訊,就顯的非常重要了。
定期清理無效的佇列
配置如下:
<destinationPolicy>
<policyMap>
<policyEntries><policyEntry queue=">" gcInactiveDestinations="true" inactiveTimoutBeforeGC="10000"> <deadLetterStrategy> <sharedDeadLetterStrategy processExpired="true" expiration="30000"/> </deadLetterStrategy> </policyEntry> <policyEntry topic=">" gcInactiveDestinations="true" inactiveTimoutBeforeGC="10000" > <pendingMessageLimitStrategy> <constantPendingMessageLimitStrategy limit="1000"/> </pendingMessageLimitStrategy> </policyEntry> </policyEntries> </policyMap> </destinationPolicy>
定期自動清理無效的Topic和Queue,這個配置,只會清除設定的時間內,沒有被訂閱,同時佇列沒有遺留資料的佇列。
同時,對於boker節點,需要設定schedulePeriodForDestinationPurge 引數,表示多長之間執行一次檢測。
<broker xmlns="http://activemq.apache.org/schema/core" brokerName="localhost01" dataDirectory="${activemq.data}"
useJmx="true" schedulePeriodForDestinationPurge="5000">
設定訊息的全域性過期時間
開發的時候,大家應該都知道可以設定訊息的過期時間,是否有統一設定訊息的過期時間呢?
在broker節點下增加如下的配置:
<plugins>
<!-- 86400000 為一天,設定為10天過期 -->
<timeStampingBrokerPlugin ttlCeiling="10000"
zeroExpirationOverride="10000" />
</plugins>
為了便於測試,我設定的是10s,當然,生產環境根據自己的是實際設定的會比較長。過期的時間會進入死信,死信也會沿用此時間,到期後,系統就會自動刪除資訊了。
經過我個人的實踐經驗,MQ積累的資料達千萬級別後,效能下降的比較厲害,定期清理MQ的訊息,是優化效能非常重要的一個操作。
總結
現如今,MQ的選擇很多,建議還是優先選擇rabbitmq、rocketmq或者是kafka,如果已經選擇activemq,需要持續關注MQ的消費情況,最好能設定過期時間,定期清理訊息佇列的資料,避免資料的積累,造成效能的下降。