資料庫MYSQL一主多從與讀寫分離
近期開發的系統中使用MySql作為資料庫,由於資料涉及到Money,所以不得不慎重。同時,使用者對最大訪問量也提出了要求。為了避免Mysql成為效能瓶頸並具備很好的容錯能力,特此實現主從熱備和讀寫分離。在此簡做紀要,以備日後所用!
一、配置主從
條件:兩臺PC,IP分別為192.168.168.253,192.168.168.251。兩臺PC上的Mysql版本為5.0。253上的Mysql為Master,251上的Mysql為Slave。
1、主資料庫伺服器配置
進入主資料庫伺服器安裝目錄,開啟my.ini,在檔案末尾增加如下配置:
#資料庫ID號, 為1時表示為Master,其中master_id必須為1到232–1之間的一個正整數值;
server-id = 1
#啟用二進位制日誌;
log-bin=mysql-bin
#需要同步的二進位制資料庫名;
binlog-do-db=minishop
#不同步的二進位制資料庫名,如果不設定可以將其註釋掉;
binlog-ignore-db=information_schema
binlog-ignore-db=mysql
binlog-ignore-db=personalsite
binlog-ignore-db=test
#設定生成的log檔名;
log -bin="D:/Database/materlog"
#把更新的記錄寫到二進位制檔案中;
log-slave-updates
儲存檔案。重啟Mysql服務。
進入從資料庫伺服器安裝目錄,開啟my.ini,在檔案末尾增加如下配置:
#如果需要增加Slave庫則,此id往後順延;
server-id = 2
log-bin=mysql-bin
#主庫host
master-host = 192.168.168.253
#在主資料庫伺服器中建立的用於該從伺服器備份使用的使用者
master-user = forslave
master-password = ** ****
master-port = 3306
#如果發現主伺服器斷線,重新連線的時間差;
master-connect-retry=60
#不需要備份的資料庫;
replicate-ignore-db=mysql
#需要備份的資料庫
replicate-do-db=minishop
log-slave-update
儲存檔案。重啟Mysql服務。
進入主資料庫伺服器,建立上面備份使用的使用者名稱和密碼,同時授權replication slave,super和reload
mysql>grant replication slave,super,reload on minishop.* to [email protected]192.168.168.251 identified by '******';
進入從資料庫伺服器,啟動Slave。
mysql>slave start;
mysql>show slave status\G;
測試:進入主資料庫伺服器,在Minishop中某張表中插入一條資料,然後到從資料庫伺服器中檢視是否含有剛剛插入的資料。完畢!
備註:1)執行配置後的主資料庫伺服器先於從資料庫伺服器,這樣執行從資料庫伺服器時,主庫的 File 和 Position 與 從庫的上設定Master_Log_File、Read_Master_Log_Pos 就會一致。否則,可能出現不一致的情況。這也可以通過命令調整。
2)如果發現主從複製失敗時,可以先關閉從資料庫伺服器,然後刪除從資料庫伺服器中data目錄下relay-log.info,hosname-relay-bin*,master.info等檔案,重啟從伺服器。
二、讀寫分離配置
本想採用Mysql Proxy來實現讀寫分離,奈何其使用的lua指令碼著實讓人頭痛,最後決定採用國人開發的開源資料庫代理中介軟體Amoeba。使用Amoeba,只需要簡單的xml配置,就可以很容易地實現讀寫分離。
Amoeba處於應用程式和資料庫伺服器之間,充當一箇中間代理層。其支援負載均衡、高可用性、Query過濾、讀寫分離、可路由相關的query到目標資料庫、可併發請求多臺資料庫合併結果。功能很強大。
Amoeba預設的埠為8066,實現了Mysql協議。應用程式中只需要修改一個數據庫連線就可以實現採用Amoeba來代理資料庫訪問。比如:java應用中,假如你原來的jdbc連線字串為:jdbc:mysql://192.168.168.42:3306/minishop,那麼現在,你想使用Amoeba作為資料庫訪問代理,則只需要將上面連線字串改為如下(假如Amoeba所在機子IP為192.168.168.88):jdbc:mysql://192.168.168.88:8066/minishop。Amoeba透明性做的很贊。
主要還是配置Amoeda,但是配置也是相當的簡單。基本只需要配置兩個檔案:conf\dbServers.xml和conf\amoeba.xml。配置中各項的含義,可以參考amoeda中文指南,這裡不做過多解釋。僅記錄下配置。
dbServers.xml主要配置
<amoeba:dbServers xmlns:amoeba="http://amoeba.meidusa.com/">
<!--
Each dbServer needs to be configured into a Pool,
If you need to configure multiple dbServer with load balancing that can be simplified by the following configuration:
add attribute with name virtual = "true" in dbServer, but the configuration does not allow the element with name factoryConfig
such as 'multiPool' dbServer
-->
<dbServer name="abstractServer" abstractive="true">
<factoryConfig class="com.meidusa.amoeba.mysql.net.MysqlServerConnectionFactory">
<property name="manager">${defaultManager}</property>
<property name="sendBufferSize">64</property>
<property name="receiveBufferSize">128</property>
<!-- mysql port -->
<property name="port">3306</property>
<!-- mysql schema -->
<property name="schema">minishop</property>
<!-- mysql user -->
<property name="user">chenjie</property>
<!-- mysql password -->
<property name="password">chenjie</property>
</factoryConfig>
<poolConfig class="com.meidusa.amoeba.net.poolable.PoolableObjectPool">
<property name="maxActive">500</property>
<property name="maxIdle">500</property>
<property name="minIdle">10</property>
<property name="minEvictableIdleTimeMillis">600000</property>
<property name="timeBetweenEvictionRunsMillis">600000</property>
<property name="testOnBorrow">true</property>
<property name="testWhileIdle">true</property>
</poolConfig>
</dbServer>
<dbServer name="master" parent="abstractServer">
<factoryConfig>
<!-- mysql ip -->
<property name="ipAddress">192.168.168.253</property>
</factoryConfig>
</dbServer>
<dbServer name="slave1" parent="abstractServer">
<factoryConfig>
<!-- mysql ip -->
<property name="ipAddress">192.168.168.119</property>
</factoryConfig>
</dbServer>
<dbServer name="slave2" parent="abstractServer">
<factoryConfig>
<!-- mysql ip -->
<property name="ipAddress">192.168.168.251</property>
</factoryConfig>
</dbServer>
<dbServer name="multiPool" virtual="true">
<poolConfig class="com.meidusa.amoeba.server.MultipleServerPool">
<!-- Load balancing strategy: 1=ROUNDROBIN , 2=WEIGHTBASED , 3=HA-->
<property name="loadbalance">1</property>
<!-- Separated by commas,such as: server1,server2,server1 -->
<property name="poolNames">slave1,slave2</property>
</poolConfig>
</dbServer>
</amoeba:dbServers>
amoeba.xml配置:
<amoeba:configuration xmlns:amoeba="http://amoeba.meidusa.com/">
<proxy>
<!-- service class must implements com.meidusa.amoeba.service.Service -->
<service name="Amoeba for Mysql" class="com.meidusa.amoeba.net.ServerableConnectionManager">
<!-- port -->
<property name="port">8066</property>
<!-- bind ipAddress -->
<property name="ipAddress">192.168.168.253</property>
<property name="manager">${clientConnectioneManager}</property>
<property name="connectionFactory">
<bean class="com.meidusa.amoeba.mysql.net.MysqlClientConnectionFactory">
<property name="sendBufferSize">128</property>
<property name="receiveBufferSize">64</property>
</bean>
</property>
<property name="authenticator">
<bean class="com.meidusa.amoeba.mysql.server.MysqlClientAuthenticator">
<property name="user">chenjie</property>
<property name="password">chenjie</property>
<property name="filter">
<bean class="com.meidusa.amoeba.server.IPAccessController">
<property name="ipFile">${amoeba.home}/conf/access_list.conf</property>
</bean>
</property>
</bean>
</property>
</service>
<!-- server class must implements com.meidusa.amoeba.service.Service -->
<service name="Amoeba Monitor Server" class="com.meidusa.amoeba.monitor.MonitorServer">
<!-- port -->
<!-- default value: random number
<property name="port">9066</property>
-->
<!-- bind ipAddress -->
<property name="ipAddress">127.0.0.1</property>
<property name="daemon">true</property>
<property name="manager">${clientConnectioneManager}</property>
<property name="connectionFactory">
<bean class="com.meidusa.amoeba.monitor.net.MonitorClientConnectionFactory"></bean>
</property>
</service>
<runtime class="com.meidusa.amoeba.mysql.context.MysqlRuntimeContext">
<!-- proxy server net IO Read thread size -->
<property name="readThreadPoolSize">20</property>
<!-- proxy server client process thread size -->
<property name="clientSideThreadPoolSize">30</property>
<!-- mysql server data packet process thread size -->
<property name="serverSideThreadPoolSize">30</property>
<!-- per connection cache prepared statement size -->
<property name="statementCacheSize">500</property>
<!-- query timeout( default: 60 second , TimeUnit:second) -->
<property name="queryTimeout">60</property>
</runtime>
</proxy>
<!--
Each ConnectionManager will start as thread
manager responsible for the Connection IO read , Death Detection
-->
<connectionManagerList>
<connectionManager name="clientConnectioneManager" class="com.meidusa.amoeba.net.MultiConnectionManagerWrapper">
<property name="subManagerClassName">com.meidusa.amoeba.net.ConnectionManager</property>
<!--
default value is avaliable Processors
<property name="processors">5</property>
-->
</connectionManager>
<connectionManager name="defaultManager" class="com.meidusa.amoeba.net.MultiConnectionManagerWrapper">
<property name="subManagerClassName">com.meidusa.amoeba.net.AuthingableConnectionManager</property>
<!--
default value is avaliable Processors
<property name="processors">5</property>
-->
</connectionManager>
</connectionManagerList>
<!-- default using file loader -->
<dbServerLoader class="com.meidusa.amoeba.context.DBServerConfigFileLoader">
<property name="configFile">${amoeba.home}/conf/dbServers.xml</property>
</dbServerLoader>
<queryRouter class="com.meidusa.amoeba.mysql.parser.MysqlQueryRouter">
<property name="ruleLoader">
<bean class="com.meidusa.amoeba.route.TableRuleFileLoader">
<property name="ruleFile">${amoeba.home}/conf/rule.xml</property>
<property name="functionFile">${amoeba.home}/conf/ruleFunctionMap.xml</property>
</bean>
</property>
<property name="sqlFunctionFile">${amoeba.home}/conf/functionMap.xml</property>
<property name="LRUMapSize">1500</property>
<property name="defaultPool">master</property>
<property name="writePool">master</property>
<property name="readPool">multiPool</property>
<property name="needParse">true</property>
</queryRouter>
</amoeba:configuration>
至此,Mysql主從熱備和讀寫分離配置完畢。但是,具體應用到生產環境究竟如何,還有待測試和考察。後來測試一主多從,又加入了一臺Mysql從資料庫伺服器,這就是為什麼上面amoeba配置中多了一個IP為119的原因。
相關推薦
資料庫MYSQL一主多從與讀寫分離
近期開發的系統中使用MySql作為資料庫,由於資料涉及到Money,所以不得不慎重。同時,使用者對最大訪問量也提出了要求。為了避免Mysql成為效能瓶頸並具備很好的容錯能力,特此實現主從熱備和讀寫分離。在此簡做紀要,以備日後所用! 一、配置主從 條件:兩臺P
Mysql一主多從和讀寫分離配置簡記
近期開發的系統中使用MySql作為資料庫,由於資料涉及到Money,所以不得不慎重。同時,使用者對最大訪問量也提出了要求。為了避免Mysql成為效能瓶頸並具備很好的容錯能力,特此實現主從熱備和讀寫分離。在此簡做紀要,以備日後所用! 一、配置主從 條件:兩臺PC,IP分別為1
Mysql一主多從復制數據
sock 是否 art str cor term 數據庫 啟動 ado 應用場景:外部僅僅訪問主數據庫(Mysql_Master),多個從數據庫(Mysql_Slave)做數據庫熱備份。一旦主數據庫宕機,從服務器負責處理數據實驗拓補圖: 實驗環
搭建MySQL一主多從————VMware Workstation 虛擬機nat網絡配置(一)
VMware Workstation 虛擬機 虛擬網絡 nat連接 運行 VMware Workstation Pro 在桌面找到該圖標,雙擊運行即可,如果沒有安裝請下載安裝。流程編輯 ==》虛擬網絡編輯器 ==》 VMnet0 如果沒有 添加網絡 最後設置完後,點擊確定即可。 配置虛
MySQL一主多從
MySQL主192.168.65.128上配置/etc/my.cnf[root@localhost ~]# /etc/init.d/mysqld restart Shutting down MySQL.. SUCCESS! Starting MySQL.. SUCCESS!備份數據從1、192.168.65.
CentOS6.5配置MYSQL一主多從詳解
ali ati In restart 配置文件 left 主庫 vim 數據庫 一、環境 1 操作系統 :CentOS 6.5 2 數據庫版本:MySQL 5.6.27 3 主機A:192.168.1.1 (Master) 4 從機B:192.168.1.2 (
mysql 一主多從配置說明
背景 mysql 一主多從的場景是經常見的,具體的業務場景裡我們一般讀的壓力遠遠是大於寫的壓力,master我們可以用來做寫操作,slave用來做讀操作、備份,可以做到資料庫的負載均衡。 同步複製過程說明 (1) master將改變記錄到二進位制日誌(binary log)中(這些記
MySQL主從復制技術與讀寫分離技術amoeba應用
buffer chan lns -a query rep 下載 高可用性 tab MySQL主從復制技術與讀寫分離技術amoeba應用 前言:眼下在搭建一個人才站點,估計流量會非常大,須要用到分布式數據庫技術,MySQL的主從復制+讀寫分
MySQL的主從復制與讀寫分離原理
訂單 中繼 運維 提交 磁盤 com 引擎 庫服務器 文件 前言:我們前面搭建過LAMP和LNMP,做過了web服務器群集和熱備,web服務器壞了我們是不怕了,但是我們要知道,網站的數據有很多是存儲在數據庫裏面的,例如註冊的會員,發的文章,購物的訂單等信息。當然我們可以給數
MYSQL的主從復制與讀寫分離
amp pan 滿足 art 5.1 tap sta 訪問服務器 方式 在實際生產環境中,如果對數據庫的讀和寫都在同一個數據庫服務器中操作,無論是安全性,高可用性,還是高並發性等各個方面都是不能滿足實際需求,因此,一般來說都是通過主從復制的方式來同步詩句,再通過讀寫分離來提
MySQL高可用--主從複製與讀寫分離
一、Mysql高可用概念 二、MySQL主從複製原理 叢集目的,減輕單臺伺服器壓力 三、MySQL主從複製配置 實際操作mysql伺服器叢集,主從複製的過程 master 192.168.230.128 slav
MySQL主從伺服器的配置與讀寫分離實現
1.1. MySQL的Master和Slave配置MySQL主從同步是目前使用比較廣泛的資料庫架構,技術比較成熟,配置也不復雜,特別是對於負載比較大的網站,主從同步能夠有效緩解資料庫讀寫的壓力。1.1.1. MySQL主從同步的機制1. Slave 上面
MySQL主從(MySQL proxy Lua讀寫分離設置,一主多從同步配置,分庫分表方案)
否則 count user username 2個 ons 基礎 zxvf 路徑 Mysql Proxy Lua讀寫分離設置一.讀寫分離說明讀寫分離(Read/Write Splitting),基本的原理是讓主數據庫處理事務性增、改、刪操作(INSERT、UPDATE、DE
使用spring實現讀寫分離(mysql主從複製)五:一主多從的實現
很多實際使用場景下都是採用“一主多從”的架構的,使用輪詢演算法實現,目前只需要修改DynamicDataSource即可。 1.1. 實現 import java.lang.reflect.Field; import java.util.ArrayList; impo
Spring AOP實現Mysql資料庫主從切換(一主多從)
設定資料庫主從切換的原因:資料庫中經常發生的是“讀多寫少”,這樣讀操作對資料庫壓力比較大,通過採用資料庫叢集方案, 一個數據庫是主庫,負責寫;其他為從庫,負責讀,從而實現讀寫分離增大資料庫的容錯率。 那麼,對資料庫的要求是: 1. 讀庫和寫庫的資料一致; 2. 寫資料
EF通用數據層封裝類(支持讀寫分離,一主多從)
dto cte 功能 pes getc mes 工廠 好的 靈活 淺談orm 記得四年前在學校第一次接觸到 Ling to Sql,那時候瞬間發現不用手寫sql語句是多麽的方便,後面慢慢的接觸了許多orm框架,像 EF,Dapper,Hibernate,ServiceSta
Mysql DBA 高級運維學習筆記-一主多從宕機從庫切換主繼續和從庫同步過程
復制 導入數據 之間 pro vim 庫服務器 chan mas 優點 1.主庫master 宕機 登錄從庫show processlist\G 看兩個線程的更新狀態 mysql> show processlist\G ************************
Centos7配置mysql主從:一主多從
表結構 .cn single 讀取 entos body 分享 posit bin-log mysql主從復制原理1.首先master將數據更新記錄到二進制binlog文件2.slave通過I/O線程向master請求binlog日誌文件指定位置之後的內容3.master接
資料庫--一主多從
多實列及其一主多從 建立存放資料庫資訊的目錄 [[email protected] ~]# mkdir /data/330{7..9} –p 建立存放配置檔案的檔案 [[email protected] ~]# touch /data/330{7..9}/my.cnf 編輯330
MySql多例項配置及一主多從環境搭建
主從複製原理 當 master 主伺服器上的資料發生改變時,則將其改變寫入二進位制日誌檔案中 salve 從伺服器會在一定時間間隔內對 master 主伺服器上的二進位制日誌進行探測,探測其是 否發生過改變 如果探測到 master 主伺服器的二進位制日誌發生了改變,則開始一個