1. 程式人生 > >Mycat - 實現資料庫的讀寫分離與高可用

Mycat - 實現資料庫的讀寫分離與高可用

前言

  開心一刻

    上語文課,不小心睡著了,坐在邊上的同桌突然叫醒了我,並小聲說道:“讀課文第三段”。我立馬起身大聲讀了起來。正在黑板寫字的老師嚇了一跳,老師鬱悶的看著我,問道:“同學有什麼問題嗎?”,我貌似知道了什麼,蛋定的說了一句:“這段寫的真好!我給大夥念念!”,老師還較真了:“你說說看,好在哪裡?”,頓時我就無語了,臉黑著望向了同桌了,心想著:“這是個畜生啊!”

前情回顧

  mysql5.7.18的安裝與主從複製中講到了基於mysql5.7.18的主從複製結構的搭建,比較簡單,只要細心點,很容易搭建成功。

  spring整合mybatis實現mysql讀寫分離

從程式碼層面實現了讀寫分離(實現方式:註解+aop),需要配置兩個資料來源:masterDataSource、slaveDataSource,分別針對主從資料庫,另外還需要在程式碼層面明確指定用哪個資料來源。會增大程式碼量(雖然只是增加一個註解),並且耦合在程式碼中不利於拓展與後續維護,一旦進行修改就需要重新編譯打包,最嚴重的是如果資料庫宕機了,應用就會拋異常,完全不能正常服務了。那麼有沒有其他層面的更優方案呢?肯定是有的,我們可以從資料庫的層面來實現讀寫分離,應用程式碼不感知連線的是什麼資料庫,按平時單庫的方式處理即可,具體實現我們往下看。

mysql主從實現

  Mycat不負責任何的資料同步問題,mysql的主從複製還得從mysql層面來實現;如果沒有實現mysql的主從複製,後文就都成

了。

  mysql的主從複製是實現讀寫分離的基礎,具體的搭建過程請參考:mysql5.7.18的安裝與主從複製,本文就不展示詳細的搭建過程了。我的mysql主從資訊如下

    master:192.168.1.210;slave:192.168.1.211; 需要複製的資料庫:mycat_db

Mycat搭建

  Mycat是什麼?是資料庫中介軟體,介於資料庫與應用之間,進行資料處理與互動的中介軟體服務,可以簡單的理解成資料庫代理,我們的應用只需要與資料庫中介軟體互動,而無需關注複雜的資料庫部署。

  如上圖所示,資料被分到多個分片資料庫後,應用如果需要讀取資料,就需要處理多個數據源的資料。如果沒有資料庫中介軟體,那麼應用將直接面對分片叢集,資料來源切換、事務處理、資料聚合都需要在應用層直接處理,原本該是專注於業務的應用,將會花大量的工作來處理分片後的問題,最重要的是每個應用處理將是完全的重複造輪子。所以有了資料庫中介軟體,應用只需要關注業務處理,大量的通用的資料聚合、事務、資料來源切換都由資料庫中介軟體來處理。更多Mycat資訊,請查閱

《Mycat權威指南》

  192.168.1.212上搭建Mycat

    JDK的安裝

      Mycat依賴jdk,我們需要先安裝jdk,必須是JDK7或更高版本;具體安裝過程就不做展示了,大家可參考:virtualBox安裝centos,並搭建tomcat

    Mycat安裝

      安裝包:Mycat-server-1.6.6.1-release-20181031195535-linux.tar,在/opt目錄下

        [[email protected] opt]# cp Mycat-server-1.6.6.1-release-20181031195535-linux.tar.gz -C /usr/local
        [[email protected] local]# useradd mycat
        [[email protected] local]# chown -R mycat:mycat /usr/local/mycat
        [[email protected] local]# passwd mycat  

      修改mycat記憶體配置
        我的linux虛擬機器配置的記憶體大小是1GB,大家需要根據自己的實際情況進行配置

        [[email protected] local]# vi mycat/conf/wrapper.conf

wrapper.java.additional.10=-Xmx4G    (大約在36行)
wrapper.java.additional.11=-Xms1G
改成
wrapper.java.additional.10=-Xmx1G
wrapper.java.additional.11=-Xms256M

      配置hostname(若已配置則忽略)       

        [[email protected] local]# vi /etc/sysconfig/network
          追加一行:HOSTNAME=你的主機名(xxxx),我的主機名是centos212
        [[email protected] local]# vi /etc/hosts
          在127.0.0.1和::1末尾追加你的主機名(xxxx),如下圖所示,

      將MyCat配置到環境變數中

        [[email protected] local]# vi /etc/profile

        增加如下內容         

          MYCAT_HOME=/usr/local/mycat
          PATH=$MYCAT_HOME/bin:$PATH

        儲存後退出,執行source命令使配置生效

          [[email protected] local]# source /etc/profile

      配置mycat

        server.xml和rule.xml先不修改,用預設的即可;只需要簡單配置下schema.xml

<?xml version="1.0"?>
<!DOCTYPE mycat:schema SYSTEM "schema.dtd">
<mycat:schema xmlns:mycat="http://io.mycat/">

    <schema name="TESTDB" checkSQLschema="false" sqlMaxLimit="100" dataNode="dn1">
    </schema>
    <!-- <dataNode name="dn1$0-743" dataHost="localhost1" database="db$0-743"
        /> -->
    <dataNode name="dn1" dataHost="localhost1" database="test_db" />
    <dataHost name="localhost1" maxCon="1000" minCon="10" balance="0"
              writeType="0" dbType="mysql" dbDriver="native" switchType="1"  slaveThreshold="100">
        <heartbeat>select user()</heartbeat>
        <writeHost host="hostM1" url="192.168.1.210:3306" user="root" password="123456" />
    </dataHost>
</mycat:schema>
View Code

        預設有兩個賬號可以連線mycat的TESTDB,root:123456和user:user(在server.xml中),user賬號只有只讀許可權。

      啟動mycat

         [[email protected] local]# mycat start

  搭建結果展示

    可以看到,通過mycat我們成功往192.168.1.210的test_db庫中建立了一張tbl_user表。

mysql讀寫分離、高可用實現

  本文不涉及複雜的資料庫部署,只是簡單的mysql主從部署(單主單從),Mycat實現mysql的讀寫分離與高可用;mysql主從複製已經搭建好,Mycat也已經搭建好,剩下的就是配置Mycat,將Mycat與我們的mysql整合起來,結構圖如下

  如圖所示,writeHost表示主節點,readHost表示從節點,Mycat內部定期對一個dataHost裡所有的writeHost與readHost節點發起心跳檢測(writeHost與readHost都可以配置多個,至於資料同步的問題則需要我們從mysql層面實現了,Mycat並不提供資料同步的支援,本文只講mysql一主一從),正常情況下,Mycat會將第一個writeHost作為寫節點,所有的DML SQL會發送給此節點,若Mycat開啟了讀寫分離,則Select SQL會根據讀寫分離策略發往readHost(+writeHost)執行。當一個dataHost裡面配置了多個writeHost時,如果第一個writeHost宕機,則Mycat會在預設的3次心跳檢查失敗後,自動切換到下一個可用的writeHost,以此類推。

  這存在一個問題,就是當宕機的writeHost恢復後,怎麼重新加入Mycat,要不要恢復為原來的寫節點? 最佳建議方式是:保持現有狀態不變,改旗易幟,恢復後的mysql節點作為從節點,跟隨新的主節點,重新配置主從同步,原來跟隨該節點做同步的從節點也同樣換帥,重新配置同步源,這些節點的資料手工完成同步後,再加入Mycat裡。

  配置Mycat,實現mysql讀寫分離與高可用

    此種需求下,Mycat的配置非常簡單,不用針對每個表進行配置,只需要在schema.xml中的元素上增加dataNode="defaultDN"屬性,並配置此dataNode對應的真實物理資料庫的database,然後dataHost開啟讀寫分離功能即可。具體配置如下,server.xml和rule.xml先不修改,用預設的即可;只需要簡單配置下schema.xml

<?xml version="1.0"?>
<!DOCTYPE mycat:schema SYSTEM "schema.dtd">
<mycat:schema xmlns:mycat="http://io.mycat/">

    <schema name="TESTDB" checkSQLschema="false" sqlMaxLimit="100" dataNode="dn1">
    </schema>
    <!-- <dataNode name="dn1$0-743" dataHost="localhost1" database="db$0-743"
        /> -->
    <dataNode name="dn1" dataHost="localhost1" database="mycat_db" />
    <dataHost name="localhost1" maxCon="1000" minCon="10" balance="1"
              writeType="0" dbType="mysql" dbDriver="native" switchType="1"  slaveThreshold="100">
        <heartbeat>select user()</heartbeat>
        <writeHost host="hostM1" url="192.168.1.210:3306" user="root" password="123456">
            <readHost host="hostS1" url="192.168.1.211:3306" user="root" password="123456" />    <!-- 讀寫分離; 寫走hostM1,讀走hostS1; hostM1宕機了, hostS1也不可用 -->
        </writeHost>
        <writeHost host="hostM2" url="192.168.1.211:3306" user="root" password="123456" /> <!-- 高可用,hostM1宕機了, hostM2頂上 -->
    </dataHost>
</mycat:schema>
View Code

    重啟mycat:[[email protected] logs]# mycat restart,mycat資料庫TESTDB內容如下

  測試結果展示

    讀寫分離

      一般情況,查詢會走slave節點,其他走master節點,對master節點資料庫的增、刪、改操作最終會同步到slave節點,但這個同步所需要的時間不好掌握(網路延時等因素),如果延時太長,我們新增一條資料後立即去查詢,很有可能會查詢不到剛新增的的資料;如果對資料的實時性要求比較高的查詢,我們可以強制查詢走master節點,如下所示

        強制走master:/*!mycat:db_type=master*/ select * from tbl_user;強制走slave:/*!mycat:db_type=slave*/ select * from tbl_user

      另外我們可以配置mycat,根據主從延時時長來決定查詢走master還是slave,具體配置可查閱《Mycat權威指南》。

      讀寫分離示例如下:

      可以看到,一般查詢走的是slave;增、刪、改走master,然後同步到slave;我們也可以強制走master,還是slave。示例中我手動的將slave中的王五改成了王五_1,是為了更好的展示查詢請求是走的master還是slave,真實情況是不會出現這種情況的。

    高可用

      我們手動停掉master上的mysql服務,看看mycat能不能自動的切換到下一個writeHost,示例如下

      mycat將master從hostM1切換到hostM2需要一定的時間,切換過程中如果強制從master操作,會丟擲連線異常(java.net.ConnectException: 拒絕連線),這是屬於正常情況。當切換完成之後,就可以正常操作mycat了,而我們的操作方式無需做任何改變(應用無需做任何變化,仍按之前的方式訪問mycat即可)。

      宕機的master節點修復後,如何重新加入mycat,這個問題在前面已經講過,該節點及其readHost節點全部以slave的形式加入到其他writeHost的readHost中,修改schema.xml,而不要去修改dnindex.properties,另外還得從mysql層面修改同步源。

總結

  1、資料的同步在mysql層面實現的,mycat不負責任何的資料庫同步;

  2、mycat的搭建比較簡單,但也有一些注意點:依賴JDK以及其版本,hostname配置等等。期間如果遇到什麼問題,儘量百度,就不要google了,Mycat是中國製造,百度搜索的資料更全;

  3、資料庫的讀寫分離是mycat最常用的場景之一,配置比較簡單,細心一點,實現起來應該不難; 

  4、讀寫分離往往還伴隨著高可用,同樣mycat也支援mysql的高可用,能夠自動的進行master的切換;

  5、關於mycat自身的高可用、應用整合,我們下篇再講,敬請期待吧;

參考

  《Mycat實戰指南》