複習電商筆記-23-Amoeba實現讀寫分離
Amoeba實現讀寫分離
概念
Amoeba是一個以MySQL為底層資料儲存，並對應用提供MySQL協議介面的proxy。它集中地響應應用的請求，依據使用者事先設定的規則，將SQL請求傳送到特定的資料庫上執行。基於此可以實現負載均衡、讀寫分離、高可用性等需求。與MySQL官方的MySQL Proxy相比，作者強調的是amoeba配置的方便（基於XML的配置檔案，用SQLJEP語法書寫規則，比基於lua指令碼的MySQL Proxy簡單）。
Amoeba相當於一個SQL請求的路由器，目的是為負載均衡、讀寫分離、高可用性提供機制，而不是完全實現它們。使用者需要結合使用MySQL的 Replication（複製）等機制來實現副本同步等功能。amoeba對底層資料庫連線管理和路由實現也採用了可插撥的機制，第三方可以開發更高階的策略類來替代作者的實現。這個程式總體上比較符合KISS原則的思想。
注：KISS原則，keep it simple and stupid ，簡單的理解這句話就是，要把一個系統做的連白痴都會用。這就是使用者體驗的高層境界了，好聽的說法也是有的，簡單就是美。
優勢
Amoeba主要解決以下問題：
a). 資料切分後複雜資料來源整合
b). 提供資料切分規則並降低資料切分規則給資料庫帶來的影響
c). 降低資料庫與客戶端連線
d). 讀寫分離路由
指南
Amoeba 的詳細使用說明請參見：http://docs.hexnova.com/amoeba/
安裝jdk
Amoeba首先需要安裝jdk環境。
glibc是GNU釋出的libc庫，即c執行庫。glibc是linux系統中最底層的api，幾乎其它任何執行庫都會依賴於glibc。glibc除了封裝linux作業系統所提供的系統服務外，它本身也提供了許多其它一些必要功能服務的實現。由於 glibc 囊括了幾乎所有的 UNIX通行的標準，可以想見其內容包羅永珍。而就像其他的 UNIX 系統一樣，其內含的檔案群分散於系統的樹狀目錄結構中，像一個支架一般撐起整個作業系統。在 GNU/Linux 系統中，其C函式庫發展史點出了GNU/Linux 演進的幾個重要里程碑，用 glibc 作為系統的C函式庫，是GNU/Linux演進的一個重要里程碑。
yum -y install glibc.i686 #jdk依賴glibc
mkdir /usr/local/src/java #按習慣使用者自己安裝的軟體存放到/usr/local/src目錄下
rz 上傳jdk tar包 #利用xshell的rz命令上傳檔案
tar -xvf jdk-7u51-linux-x64.tar.gz #解壓壓縮包配置環境變數
1）vi /etc/profile
2）在尾行新增
#set java environment
JAVA_HOME=/usr/local/src/java/jdk1.7.0_51
JAVA_BIN=/usr/local/src/java/jdk1.7.0_51/bin
PATH=$JAVA_HOME/bin:$PATH
CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
export JAVA_HOME JAVA_BIN PATH CLASSPATH
儲存退出
3）source /etc/profile 使更改的配置立即生效
4）java -version 檢視JDK版本資訊。如顯示1.7.0證明成功。
注意：如果測試java已經可以，但執行./amoeba start卻報錯找不到JAVA_HOME。就自己指定一個JAVA_HOME變數及其路徑。在下面問題中有詳述。
安裝amoeba
Amoeba成為MySQL的代理，這樣它就成為一個性能瓶頸，所以通常要單獨部署到一臺伺服器上，以保障它的效能。
#amoeba解壓直接所以檔案放在當前目錄下，所以先建立一個新的目錄
mkdir /usr/local/src/amoeba上傳檔案：amoeba-mysql-binary-2.2.0.tar.gz
tar –xvf amoeba-mysql-binary-2.2.0.tar.gzbin 執行檔案目錄
conf 配置檔案目錄
配置amoeba
配置主、從mysql伺服器連結資訊等
dbServers.xml
<?xml version="1.0" encoding="gbk"?>
<!DOCTYPE amoeba:dbServers SYSTEM "dbserver.dtd">
<amoeba:dbServers xmlns:amoeba="http://amoeba.meidusa.com/">
<!--
Each dbServer needs to be configured into a Pool,
If you need to configure multiple dbServer with load balancing that can be simplified by the following configuration:
add attribute with name virtual = "true" in dbServer, but the configuration does not allow the element with name factoryConfig
such as 'multiPool' dbServer
-->
<dbServer name="abstractServer" abstractive="true">
<factoryConfig class="com.meidusa.amoeba.mysql.net.MysqlServerConnectionFactory">
<property name="manager">${defaultManager}</property>
<property name="sendBufferSize">64</property>
<property name="receiveBufferSize">128</property>
<!-- mysql port -->
<property name="port">3306</property>
<!-- mysql schema -->
<property name="schema">test</property>
<!-- mysql user -->
<property name="user">root</property>
<!-- mysql password -->
<property name="password">root</property>
</factoryConfig>
<poolConfig class="com.meidusa.amoeba.net.poolable.PoolableObjectPool">
<property name="maxActive">500</property>
<property name="maxIdle">500</property>
<property name="minIdle">10</property>
<property name="minEvictableIdleTimeMillis">600000</property>
<property name="timeBetweenEvictionRunsMillis">600000</property>
<property name="testOnBorrow">true</property>
<property name="testOnReturn">true</property>
<property name="testWhileIdle">true</property>
</poolConfig>
</dbServer>
<dbServer name="master" parent="abstractServer">
<factoryConfig>
<!-- mysql ip -->
<property name="ipAddress">192.168.170.43</property>
</factoryConfig>
</dbServer>
<dbServer name="slave" parent="abstractServer">
<factoryConfig>
<!-- mysql ip -->
<property name="ipAddress">192.168.170.85</property>
</factoryConfig>
</dbServer>
<dbServer name="multiPool" virtual="true">
<poolConfig class="com.meidusa.amoeba.server.MultipleServerPool">
<!-- Load balancing strategy: 1=ROUNDROBIN , 2=WEIGHTBASED , 3=HA-->
<property name="loadbalance">1</property>
<!-- Separated by commas,such as: server1,server2,server1 -->
<property name="poolNames">master,slave</property>
</poolConfig>
</dbServer>
</amoeba:dbServers>
amoeba.xml
<?xml version="1.0" encoding="gbk"?>
<!DOCTYPE amoeba:configuration SYSTEM "amoeba.dtd">
<amoeba:configuration xmlns:amoeba="http://amoeba.meidusa.com/">
<proxy>
<!-- service class must implements com.meidusa.amoeba.service.Service -->
<service name="Amoeba for Mysql" class="com.meidusa.amoeba.net.ServerableConnectionManager">
<!-- port -->
<property name="port">8066</property>
<!-- bind ipAddress -->
<!--
<property name="ipAddress">127.0.0.1</property>
-->
<property name="manager">${clientConnectioneManager}</property>
<property name="connectionFactory">
<bean class="com.meidusa.amoeba.mysql.net.MysqlClientConnectionFactory">
<property name="sendBufferSize">128</property>
<property name="receiveBufferSize">64</property>
</bean>
</property>
<property name="authenticator">
<bean class="com.meidusa.amoeba.mysql.server.MysqlClientAuthenticator">
<property name="user">root</property>
<property name="password">root</property>
<property name="filter">
<bean class="com.meidusa.amoeba.server.IPAccessController">
<property name="ipFile">${amoeba.home}/conf/access_list.conf</property>
</bean>
</property>
</bean>
</property>
</service>
<!-- server class must implements com.meidusa.amoeba.service.Service -->
<service name="Amoeba Monitor Server" class="com.meidusa.amoeba.monitor.MonitorServer">
<!-- port -->
<!-- default value: random number
<property name="port">9066</property>
-->
<!-- bind ipAddress -->
<property name="ipAddress">127.0.0.1</property>
<property name="daemon">true</property>
<property name="manager">${clientConnectioneManager}</property>
<property name="connectionFactory">
<bean class="com.meidusa.amoeba.monitor.net.MonitorClientConnectionFactory"></bean>
</property>
</service>
<runtime class="com.meidusa.amoeba.mysql.context.MysqlRuntimeContext">
<!-- proxy server net IO Read thread size -->
<property name="readThreadPoolSize">20</property>
<!-- proxy server client process thread size -->
<property name="clientSideThreadPoolSize">30</property>
<!-- mysql server data packet process thread size -->
<property name="serverSideThreadPoolSize">30</property>
<!-- per connection cache prepared statement size -->
<property name="statementCacheSize">500</property>
<!-- query timeout( default: 60 second , TimeUnit:second) -->
<property name="queryTimeout">60</property>
</runtime>
</proxy>
<!--
Each ConnectionManager will start as thread
manager responsible for the Connection IO read , Death Detection
-->
<connectionManagerList>
<connectionManager name="clientConnectioneManager" class="com.meidusa.amoeba.net.MultiConnectionManagerWrapper">
<property name="subManagerClassName">com.meidusa.amoeba.net.ConnectionManager</property>
<!--
default value is avaliable Processors
<property name="processors">5</property>
-->
</connectionManager>
<connectionManager name="defaultManager" class="com.meidusa.amoeba.net.MultiConnectionManagerWrapper">
<property name="subManagerClassName">com.meidusa.amoeba.net.AuthingableConnectionManager</property>
<!--
default value is avaliable Processors
<property name="processors">5</property>
-->
</connectionManager>
</connectionManagerList>
<!-- default using file loader -->
<dbServerLoader class="com.meidusa.amoeba.context.DBServerConfigFileLoader">
<property name="configFile">${amoeba.home}/conf/dbServers.xml</property>
</dbServerLoader>
<queryRouter class="com.meidusa.amoeba.mysql.parser.MysqlQueryRouter">
<property name="ruleLoader">
<bean class="com.meidusa.amoeba.route.TableRuleFileLoader">
<property name="ruleFile">${amoeba.home}/conf/rule.xml</property>
<property name="functionFile">${amoeba.home}/conf/ruleFunctionMap.xml</property>
</bean>
</property>
<property name="sqlFunctionFile">${amoeba.home}/conf/functionMap.xml</property>
<property name="LRUMapSize">1500</property>
<property name="defaultPool">master</property>
<property name="writePool">master</property>
<property name="readPool">multiPool</property>
<property name="needParse">true</property>
</queryRouter>
</amoeba:configuration>
開啟8066埠
/sbin/iptables -I INPUT -p tcp --dport 8066 -j ACCEPT
/etc/rc.d/init.d/iptables save #修改生效
/etc/init.d/iptables status #檢視配置
啟動amoeba
./bin/amoeba start 或 ./bin/amoeba start &
./bin/laucher start 或 ./bin/laucher start &
停止amoeba
./bin/amoeba stop
./bin/laucher stop
常見問題
JAVA_HOME不認
jdk安裝後測試無問題java –version，但啟動amoeba就是報錯JAVA_HOME找不到。
就修改/amoeba/bin/amoeba檔案，在檔案最開頭直接寫入JAVA_HOME環境變數。
JAVA_HOME=/usr/local/src/java/jdk1.7.0_51
java棧設定小
預設配置Xss比較小 128k，啟動時提示太小，則修改/amoeba/jvm.properties檔案，修改為256k即可。
DEFAULT_OPTS="-server -Xms256m -Xmx256m -Xss256k"
amoeba連線的mysql都要開放訪問許可權
否則訪問拒絕，無法執行SQL語句
啟動tomcat報錯
錯誤資訊：
org.apache.catalina.loader.WebappClassLoader clearReferencesJdbc
嚴重: The web application [/ht] registered the JBDC driver [com.mysql.jdbc.Driver] but
failed to unregister it when the web application was stopped. To prevent a memory leak,
the JDBC Driver has been forcibly unregistered.
解決辦法：
tomcat 6.025以後引入了記憶體洩露偵測，對於垃圾回收不能處理的對像，它就會做日誌。解決辦法是要麼用舊版本的tomcat，要麼就在tomcat的server.xml檔案中註釋掉。
<Listener className="org.apache.catalina.core.JreMemoryLeakPreventionListener"/>;
這個監聽給關了。我試了把這個監聽關了，就不會再報上面那個資訊，但是這樣子執行tomcat會不會有其他的問題，我就不得而知了。
MySQL資料庫主從同步延遲原理
mysql主從同步原理：主庫針對寫操作，順序寫binlog，從庫單執行緒去主庫順序讀”寫操作的binlog”，從庫取到binlog在本地原樣執行（隨機寫），來保證主從資料邏輯上一致。
mysql的主從複製都是單執行緒的操作，主庫對所有DDL和DML產生binlog，binlog是順序寫，所以效率很高，slave的Slave_IO_Running執行緒到主庫取日誌，效率比較高，下一步，問題來了，slave的Slave_SQL_Running執行緒將主庫的DDL和DML操作在slave實施。DML和DDL的IO操作是隨即的，不是順序的，成本高很多，還可能可slave上的其
他查詢產生lock爭用，由於Slave_SQL_Running也是單執行緒的，所以一個DDL卡主了，需要執行10分鐘，那麼所有之後的DDL會等待這個DDL執行完才會繼續執行，這就導致了延時。
有朋友會問：“主庫上那個相同的DDL也需要執行10分，為什麼slave會延時？”，答案是master可以併發，Slave_SQL_Running執行緒卻不可以。