1. 程式人生 > >資料庫MYSQL一主多從與讀寫分離

資料庫MYSQL一主多從與讀寫分離

近期開發的系統中使用MySql作為資料庫,由於資料涉及到Money,所以不得不慎重。同時,使用者對最大訪問量也提出了要求。為了避免Mysql成為效能瓶頸並具備很好的容錯能力,特此實現主從熱備和讀寫分離。在此簡做紀要,以備日後所用!

一、配置主從

條件:兩臺PC,IP分別為192.168.168.253,192.168.168.251。兩臺PC上的Mysql版本為5.0。253上的Mysql為Master,251上的Mysql為Slave。

1、主資料庫伺服器配置

進入主資料庫伺服器安裝目錄,開啟my.ini,在檔案末尾增加如下配置:

    #資料庫ID號, 為1時表示為Master,其中master_id必須為1到232–1之間的一個正整數值;   
server-id = 1 #啟用二進位制日誌; log-bin=mysql-bin #需要同步的二進位制資料庫名; binlog-do-db=minishop #不同步的二進位制資料庫名,如果不設定可以將其註釋掉; binlog-ignore-db=information_schema binlog-ignore-db=mysql binlog-ignore-db=personalsite binlog-ignore-db=test #設定生成的log檔名; log
-bin="D:/Database/materlog" #把更新的記錄寫到二進位制檔案中; log-slave-updates

儲存檔案。重啟Mysql服務。
進入從資料庫伺服器安裝目錄,開啟my.ini,在檔案末尾增加如下配置:

#如果需要增加Slave庫則,此id往後順延;  
    server-id = 2    
    log-bin=mysql-bin  
    #主庫host  
    master-host = 192.168.168.253  
    #在主資料庫伺服器中建立的用於該從伺服器備份使用的使用者  
    master-user = forslave  
    master-password = **
**** master-port = 3306 #如果發現主伺服器斷線,重新連線的時間差; master-connect-retry=60 #不需要備份的資料庫; replicate-ignore-db=mysql #需要備份的資料庫 replicate-do-db=minishop log-slave-update

儲存檔案。重啟Mysql服務。
進入主資料庫伺服器,建立上面備份使用的使用者名稱和密碼,同時授權replication slave,super和reload


    mysql>grant replication slave,super,reload on minishop.* to [email protected]192.168.168.251 identified by '******';  

進入從資料庫伺服器,啟動Slave。

    mysql>slave start;  

    mysql>show slave status\G; 

測試:進入主資料庫伺服器,在Minishop中某張表中插入一條資料,然後到從資料庫伺服器中檢視是否含有剛剛插入的資料。完畢!

備註:1)執行配置後的主資料庫伺服器先於從資料庫伺服器,這樣執行從資料庫伺服器時,主庫的 File 和 Position 與 從庫的上設定Master_Log_File、Read_Master_Log_Pos 就會一致。否則,可能出現不一致的情況。這也可以通過命令調整。

2)如果發現主從複製失敗時,可以先關閉從資料庫伺服器,然後刪除從資料庫伺服器中data目錄下relay-log.info,hosname-relay-bin*,master.info等檔案,重啟從伺服器。

二、讀寫分離配置

本想採用Mysql Proxy來實現讀寫分離,奈何其使用的lua指令碼著實讓人頭痛,最後決定採用國人開發的開源資料庫代理中介軟體Amoeba。使用Amoeba,只需要簡單的xml配置,就可以很容易地實現讀寫分離。

Amoeba處於應用程式和資料庫伺服器之間,充當一箇中間代理層。其支援負載均衡、高可用性、Query過濾、讀寫分離、可路由相關的query到目標資料庫、可併發請求多臺資料庫合併結果。功能很強大。

Amoeba預設的埠為8066,實現了Mysql協議。應用程式中只需要修改一個數據庫連線就可以實現採用Amoeba來代理資料庫訪問。比如:java應用中,假如你原來的jdbc連線字串為:jdbc:mysql://192.168.168.42:3306/minishop,那麼現在,你想使用Amoeba作為資料庫訪問代理,則只需要將上面連線字串改為如下(假如Amoeba所在機子IP為192.168.168.88):jdbc:mysql://192.168.168.88:8066/minishop。Amoeba透明性做的很贊。

主要還是配置Amoeda,但是配置也是相當的簡單。基本只需要配置兩個檔案:conf\dbServers.xml和conf\amoeba.xml。配置中各項的含義,可以參考amoeda中文指南,這裡不做過多解釋。僅記錄下配置。

dbServers.xml主要配置

    <amoeba:dbServers xmlns:amoeba="http://amoeba.meidusa.com/">  

            <!--   
                Each dbServer needs to be configured into a Pool,  
                If you need to configure multiple dbServer with load balancing that can be simplified by the following configuration:  
                 add attribute with name virtual = "true" in dbServer, but the configuration does not allow the element with name factoryConfig  
                 such as 'multiPool' dbServer     
            -->  

        <dbServer name="abstractServer" abstractive="true">  
            <factoryConfig class="com.meidusa.amoeba.mysql.net.MysqlServerConnectionFactory">  
                <property name="manager">${defaultManager}</property>  
                <property name="sendBufferSize">64</property>  
                <property name="receiveBufferSize">128</property>  

                <!-- mysql port -->  
                <property name="port">3306</property>  

                <!-- mysql schema -->  
                <property name="schema">minishop</property>  

                <!-- mysql user -->  
                <property name="user">chenjie</property>  

                <!--  mysql password -->  
                <property name="password">chenjie</property>  

            </factoryConfig>  

            <poolConfig class="com.meidusa.amoeba.net.poolable.PoolableObjectPool">  
                <property name="maxActive">500</property>  
                <property name="maxIdle">500</property>  
                <property name="minIdle">10</property>  
                <property name="minEvictableIdleTimeMillis">600000</property>  
                <property name="timeBetweenEvictionRunsMillis">600000</property>  
                <property name="testOnBorrow">true</property>  
                <property name="testWhileIdle">true</property>  
            </poolConfig>  
        </dbServer>  

        <dbServer name="master"  parent="abstractServer">  
            <factoryConfig>  
                <!-- mysql ip -->  
                <property name="ipAddress">192.168.168.253</property>  
            </factoryConfig>  
        </dbServer>  

        <dbServer name="slave1"  parent="abstractServer">  
            <factoryConfig>  
                <!-- mysql ip -->  
                <property name="ipAddress">192.168.168.119</property>  
            </factoryConfig>  
        </dbServer>  

        <dbServer name="slave2"  parent="abstractServer">  
            <factoryConfig>  
                <!-- mysql ip -->  
                <property name="ipAddress">192.168.168.251</property>  

            </factoryConfig>  
        </dbServer>  

        <dbServer name="multiPool" virtual="true">  
            <poolConfig class="com.meidusa.amoeba.server.MultipleServerPool">  
                <!-- Load balancing strategy: 1=ROUNDROBIN , 2=WEIGHTBASED , 3=HA-->  
                <property name="loadbalance">1</property>  

                <!-- Separated by commas,such as: server1,server2,server1 -->  
                <property name="poolNames">slave1,slave2</property>  
            </poolConfig>  
        </dbServer>  

    </amoeba:dbServers>  

amoeba.xml配置:

    <amoeba:configuration xmlns:amoeba="http://amoeba.meidusa.com/">  

        <proxy>  

            <!-- service class must implements com.meidusa.amoeba.service.Service -->  
            <service name="Amoeba for Mysql" class="com.meidusa.amoeba.net.ServerableConnectionManager">  
                <!-- port -->  
                <property name="port">8066</property>  

                <!-- bind ipAddress -->  

                <property name="ipAddress">192.168.168.253</property>  


                <property name="manager">${clientConnectioneManager}</property>  

                <property name="connectionFactory">  
                    <bean class="com.meidusa.amoeba.mysql.net.MysqlClientConnectionFactory">  
                        <property name="sendBufferSize">128</property>  
                        <property name="receiveBufferSize">64</property>  
                    </bean>  
                </property>  

                <property name="authenticator">  
                    <bean class="com.meidusa.amoeba.mysql.server.MysqlClientAuthenticator">  

                        <property name="user">chenjie</property>  

                        <property name="password">chenjie</property>  

                        <property name="filter">  
                            <bean class="com.meidusa.amoeba.server.IPAccessController">  
                                <property name="ipFile">${amoeba.home}/conf/access_list.conf</property>  
                            </bean>  
                        </property>  
                    </bean>  
                </property>  

            </service>  

            <!-- server class must implements com.meidusa.amoeba.service.Service -->  
            <service name="Amoeba Monitor Server" class="com.meidusa.amoeba.monitor.MonitorServer">  
                <!-- port -->  
                <!--  default value: random number  
                <property name="port">9066</property>  
                -->  
                <!-- bind ipAddress -->  
                <property name="ipAddress">127.0.0.1</property>  
                <property name="daemon">true</property>  
                <property name="manager">${clientConnectioneManager}</property>  
                <property name="connectionFactory">  
                    <bean class="com.meidusa.amoeba.monitor.net.MonitorClientConnectionFactory"></bean>  
                </property>  

            </service>  

            <runtime class="com.meidusa.amoeba.mysql.context.MysqlRuntimeContext">  
                <!-- proxy server net IO Read thread size -->  
                <property name="readThreadPoolSize">20</property>  

                <!-- proxy server client process thread size -->  
                <property name="clientSideThreadPoolSize">30</property>  

                <!-- mysql server data packet process thread size -->  
                <property name="serverSideThreadPoolSize">30</property>  

                <!-- per connection cache prepared statement size  -->  
                <property name="statementCacheSize">500</property>  

                <!-- query timeout( default: 60 second , TimeUnit:second) -->  
                <property name="queryTimeout">60</property>  
            </runtime>  

        </proxy>  

        <!--   
            Each ConnectionManager will start as thread  
            manager responsible for the Connection IO read , Death Detection  
        -->  
        <connectionManagerList>  
            <connectionManager name="clientConnectioneManager" class="com.meidusa.amoeba.net.MultiConnectionManagerWrapper">  
                <property name="subManagerClassName">com.meidusa.amoeba.net.ConnectionManager</property>  
                <!--   
                  default value is avaliable Processors   
                <property name="processors">5</property>  
                 -->  
            </connectionManager>  
            <connectionManager name="defaultManager" class="com.meidusa.amoeba.net.MultiConnectionManagerWrapper">  
                <property name="subManagerClassName">com.meidusa.amoeba.net.AuthingableConnectionManager</property>  

                <!--   
                  default value is avaliable Processors   
                <property name="processors">5</property>  
                 -->  
            </connectionManager>  
        </connectionManagerList>  

            <!-- default using file loader -->  
        <dbServerLoader class="com.meidusa.amoeba.context.DBServerConfigFileLoader">  
            <property name="configFile">${amoeba.home}/conf/dbServers.xml</property>  
        </dbServerLoader>  

        <queryRouter class="com.meidusa.amoeba.mysql.parser.MysqlQueryRouter">  
            <property name="ruleLoader">  
                <bean class="com.meidusa.amoeba.route.TableRuleFileLoader">  
                    <property name="ruleFile">${amoeba.home}/conf/rule.xml</property>  
                    <property name="functionFile">${amoeba.home}/conf/ruleFunctionMap.xml</property>  
                </bean>  
            </property>  
            <property name="sqlFunctionFile">${amoeba.home}/conf/functionMap.xml</property>  
            <property name="LRUMapSize">1500</property>  

            <property name="defaultPool">master</property>  


            <property name="writePool">master</property>  
            <property name="readPool">multiPool</property>  

            <property name="needParse">true</property>  
        </queryRouter>  
    </amoeba:configuration>  

至此,Mysql主從熱備和讀寫分離配置完畢。但是,具體應用到生產環境究竟如何,還有待測試和考察。後來測試一主多從,又加入了一臺Mysql從資料庫伺服器,這就是為什麼上面amoeba配置中多了一個IP為119的原因。

相關推薦

資料庫MYSQL分離

近期開發的系統中使用MySql作為資料庫,由於資料涉及到Money,所以不得不慎重。同時,使用者對最大訪問量也提出了要求。為了避免Mysql成為效能瓶頸並具備很好的容錯能力,特此實現主從熱備和讀寫分離。在此簡做紀要,以備日後所用! 一、配置主從 條件:兩臺P

Mysql分離配置簡記

近期開發的系統中使用MySql作為資料庫,由於資料涉及到Money,所以不得不慎重。同時,使用者對最大訪問量也提出了要求。為了避免Mysql成為效能瓶頸並具備很好的容錯能力,特此實現主從熱備和讀寫分離。在此簡做紀要,以備日後所用! 一、配置主從 條件:兩臺PC,IP分別為1

Mysql復制數據

sock 是否 art str cor term 數據庫 啟動 ado 應用場景:外部僅僅訪問主數據庫(Mysql_Master),多個從數據庫(Mysql_Slave)做數據庫熱備份。一旦主數據庫宕機,從服務器負責處理數據實驗拓補圖: 實驗環

搭建MySQL————VMware Workstation 虛擬機nat網絡配置(

VMware Workstation 虛擬機 虛擬網絡 nat連接 運行 VMware Workstation Pro 在桌面找到該圖標,雙擊運行即可,如果沒有安裝請下載安裝。流程編輯 ==》虛擬網絡編輯器 ==》 VMnet0 如果沒有 添加網絡 最後設置完後,點擊確定即可。 配置虛

MySQL

MySQL主192.168.65.128上配置/etc/my.cnf[root@localhost ~]# /etc/init.d/mysqld restart Shutting down MySQL.. SUCCESS! Starting MySQL.. SUCCESS!備份數據從1、192.168.65.

CentOS6.5配置MYSQL詳解

ali ati In restart 配置文件 left 主庫 vim 數據庫 一、環境 1 操作系統 :CentOS 6.5 2 數據庫版本:MySQL 5.6.27 3 主機A:192.168.1.1 (Master) 4 從機B:192.168.1.2 (

mysql 配置說明

背景 mysql 一主多從的場景是經常見的,具體的業務場景裡我們一般讀的壓力遠遠是大於寫的壓力,master我們可以用來做寫操作,slave用來做讀操作、備份,可以做到資料庫的負載均衡。 同步複製過程說明  (1) master將改變記錄到二進位制日誌(binary log)中(這些記

MySQL主從復制技術分離技術amoeba應用

buffer chan lns -a query rep 下載 高可用性 tab MySQL主從復制技術與讀寫分離技術amoeba應用 前言:眼下在搭建一個人才站點,估計流量會非常大,須要用到分布式數據庫技術,MySQL的主從復制+讀寫分

MySQL的主從復制分離原理

訂單 中繼 運維 提交 磁盤 com 引擎 庫服務器 文件 前言:我們前面搭建過LAMP和LNMP,做過了web服務器群集和熱備,web服務器壞了我們是不怕了,但是我們要知道,網站的數據有很多是存儲在數據庫裏面的,例如註冊的會員,發的文章,購物的訂單等信息。當然我們可以給數

MYSQL的主從復制分離

amp pan 滿足 art 5.1 tap sta 訪問服務器 方式 在實際生產環境中,如果對數據庫的讀和寫都在同一個數據庫服務器中操作,無論是安全性,高可用性,還是高並發性等各個方面都是不能滿足實際需求,因此,一般來說都是通過主從復制的方式來同步詩句,再通過讀寫分離來提

MySQL高可用--主從複製分離

一、Mysql高可用概念  二、MySQL主從複製原理  叢集目的,減輕單臺伺服器壓力 三、MySQL主從複製配置 實際操作mysql伺服器叢集,主從複製的過程 master   192.168.230.128 slav

MySQL主從伺服器的配置分離實現

1.1.          MySQL的Master和Slave配置MySQL主從同步是目前使用比較廣泛的資料庫架構,技術比較成熟,配置也不復雜,特別是對於負載比較大的網站,主從同步能夠有效緩解資料庫讀寫的壓力。1.1.1.   MySQL主從同步的機制1. Slave 上面

MySQL主從(MySQL proxy Lua分離設置,同步配置,分庫分表方案)

否則 count user username 2個 ons 基礎 zxvf 路徑 Mysql Proxy Lua讀寫分離設置一.讀寫分離說明讀寫分離(Read/Write Splitting),基本的原理是讓主數據庫處理事務性增、改、刪操作(INSERT、UPDATE、DE

使用spring實現分離mysql主從複製)五:的實現

很多實際使用場景下都是採用“一主多從”的架構的,使用輪詢演算法實現,目前只需要修改DynamicDataSource即可。   1.1. 實現 import java.lang.reflect.Field; import java.util.ArrayList; impo

Spring AOP實現Mysql資料庫主從切換(

設定資料庫主從切換的原因:資料庫中經常發生的是“讀多寫少”,這樣讀操作對資料庫壓力比較大,通過採用資料庫叢集方案,  一個數據庫是主庫,負責寫;其他為從庫,負責讀,從而實現讀寫分離增大資料庫的容錯率。  那麼,對資料庫的要求是:  1. 讀庫和寫庫的資料一致;  2. 寫資料

EF通用數據層封裝類(支持分離

dto cte 功能 pes getc mes 工廠 好的 靈活 淺談orm 記得四年前在學校第一次接觸到 Ling to Sql,那時候瞬間發現不用手寫sql語句是多麽的方便,後面慢慢的接觸了許多orm框架,像 EF,Dapper,Hibernate,ServiceSta

Mysql DBA 高級運維學習筆記-宕機庫切換繼續和庫同步過程

復制 導入數據 之間 pro vim 庫服務器 chan mas 優點 1.主庫master 宕機 登錄從庫show processlist\G 看兩個線程的更新狀態 mysql> show processlist\G ************************

Centos7配置mysql主從:

表結構 .cn single 讀取 entos body 分享 posit bin-log mysql主從復制原理1.首先master將數據更新記錄到二進制binlog文件2.slave通過I/O線程向master請求binlog日誌文件指定位置之後的內容3.master接

資料庫--

多實列及其一主多從 建立存放資料庫資訊的目錄 [[email protected] ~]# mkdir /data/330{7..9} –p 建立存放配置檔案的檔案 [[email protected] ~]# touch /data/330{7..9}/my.cnf 編輯330

MySql例項配置及環境搭建

主從複製原理 當 master 主伺服器上的資料發生改變時,則將其改變寫入二進位制日誌檔案中 salve 從伺服器會在一定時間間隔內對 master 主伺服器上的二進位制日誌進行探測,探測其是 否發生過改變 如果探測到 master 主伺服器的二進位制日誌發生了改變,則開始一個