Solr學習（三）SolrCloud叢集搭建與建立Collection
1、什麼是SolrCloud
SolrCloud是Solr提供的分散式搜尋方案，當你需要大規模，容錯，分散式索引和檢索能力時使用 SolrCloud。當一個系統的索引資料量少的時候是不需要使用SolrCloud的，當索引量很大，搜尋請求併發很高，這時需要使用SolrCloud來滿足這些需求。SolrCloud是基於Solr和Zookeeper的分散式搜尋方案，它的主要思想是使用Zookeeper作為叢集的配置資訊中心。
它有幾個特色功能：
1）集中式的配置資訊
2）自動容錯
3）近實時搜尋
4）查詢時自動負載均衡
2、SolrCloud的架構
3、SolrCloud的構成
3.1 物理結構
三個solr例項（ 每個例項包括兩個Core），組成一個SolrCloud。
3.2 邏輯結構
索引集合包括兩個Shard（shard1和shard2），shard1和shard2分別由三個Core組成，其中一個Leader兩個Replication，Leader是由zookeeper選舉產生，zookeeper控制每個shard上三個Core的索引資料一致，解決高可用問題。使用者發起索引請求分別從shard1和shard2上獲取，解決高併發問題。
3.2.1 collection
Collection在SolrCloud叢集中是一個邏輯意義上的完整的索引結構。它常常被劃分為一個或多個Shard（分片），它們使用相同的配置資訊。比如：針對商品資訊搜尋可以建立一個collection， collection=shard1+shard2+....+shardX
3.2.2 core
每個Core是Solr中一個獨立執行單位，提供索引和搜尋服務。一個shard需要由一個Core或多個Core組成。由於collection由多個shard組成所以collection一般由多個core組成。
3.2.3 master或slave
Master是master-slave結構中的主結點（通常說主伺服器），Slave是master-slave結構中的從結點（通常說從伺服器或備伺服器）。同一個Shard下master和slave儲存的資料是一致的，這是為了達到高可用目的。
3.2.4 shard
Collection的邏輯分片。
4、SolrCloud的搭建步驟
- 搭建的架構如圖：
Zookeeper作為叢集的管理工具。
-
叢集管理：容錯、負載均衡。
-
配置檔案的集中管理
-
叢集的入口
需要實現zookeeper 高可用，需要搭建叢集，建議是奇數節點，需要三個zookeeper伺服器。
搭建偽分散式：
需要三個zookeeper節點
需要四個tomcat節點
4.1 Zookeeper叢集搭建
第一步：需要安裝jdk環境。
第二步：把zookeeper的壓縮包上傳到伺服器。
第三步：解壓縮(tar -zxvf )
第四步：把zookeeper複製三份
[[email protected] ~]# mkdir /usr/local/solrcloud
[[email protected] ~]# cp -r zookeeper-3.4.10 /usr/local/solrcloud/zookeeper01
[[email protected] ~]# cp -r zookeeper-3.4.10 /usr/local/solrcloud/zookeeper02
[[email protected] ~]# cp -r zookeeper-3.4.10 /usr/local/solrcloud/zookeeper03第五步：在每個zookeeper目錄下建立一個data目錄。
第六步：在data目錄下建立一個myid檔案，檔名就叫做“myid”。內容就是每個例項的id。例如1、2、3
[[email protected] data]# echo 1 >> myid
[[email protected] data]# ll
total 4
-rw-r--r--. 1 root root 2 Apr 7 18:23 myid
[[email protected] data]# cat myid
1
第七步：修改配置檔案。把每個zookeeper/conf目錄下的zoo_sample.cfg檔案複製一份並改名為zoo.cfg
例如將zookeeper01/conf/zoo.cfg修改為如下：
其餘的都將上面紅框中的對應位置更改一下。（注意：我是在阿里雲上面搭建的zookeeper叢集，本來採用server.1=公網ip:port:port這種方式配置，但是當執行集群后，檢視每個結點狀態時，出現了contact error, probably not running異常，檢視zookeeper.out日誌出現bindException，因此在這裡改成了迴環地址，這種方式可以正常執行）
第八步：啟動zookeeper叢集
啟動單個zookeeper命令：bin/zkServer.sh start，這裡可以編寫shell指令碼進行批處理。
編寫zookeeper-startall.sh
cd zookeeper01
./bin/zkServer.sh start
cd ..
cd zookeeper02
./bin/zkServer.sh start
cd ..
cd zookeeper03
./bin/zkServer.sh start
cd ..編寫zookeeper-stopall.sh
cd zookeeper01
./bin/zkServer.sh stop
cd ..
cd zookeeper02
./bin/zkServer.sh stop
cd ..
cd zookeeper03
./bin/zkServer.sh stop
cd ..
~ 之後修改檔案可執行許可權：chomd u+x 檔名稱，執行./zookeeper-startall.sh
檢視zookeeper的狀態： bin/zkServer.sh status
zookeeper01被自動選舉為leader,zookeeper02和zookeeper03作為了follower。
4.2、Solr叢集的搭建
第一步：建立四個tomcat例項。每個tomcat執行在不同的埠。8082、8084、8085、8086，修改tomcat中的server.xml配置檔案。
第二步：部署solr的war包。把單機版的solr工程複製到叢集中的tomcat中（每個tomcat中都要複製solr工程）。（單機版：單機版solr搭建）
第三步：為每個solr例項建立一個對應的solrhome。使用單機版的solrhome複製四份。
第四步：需要修改solr的web.xml檔案。把solrhome關聯起來。
第五步：配置solrCloud相關的配置。每個solrhome下都有一個solr.xml，把其中的ip及埠號配置好。
第六步：讓zookeeper統一管理配置檔案。需要把solrhome/collection1/conf目錄上傳到zookeeper。4個solrhome,任選一個solrhome上傳即可。
使用工具上傳配置檔案：/root/solr-4.10.3/example/scripts/cloud-scripts/zkcli.sh
./zkcli.sh -zkhost {yourip}:2182,{yourip}:2183,{yourip}:2184 -cmd upconfig -confdir /usr/local/solrcloud/solrhomeDir/solrhome1/collection1/conf -confname myconf
-confdir 上傳路徑
-confname 上傳之後目錄名稱
檢視zookeeper上的配置檔案：
使用zookeeper目錄下的bin/zkCli.sh命令檢視zookeeper上的配置檔案：
連線zookeeper：
./zkCli 預設連線2181埠的zookeeper
若不是2181埠zookeeper使用 -server命令， 即 ./zkCli -server ip:port[[email protected] bin]# ./zkCli.sh
[zk: localhost:2181(CONNECTED) 0] ls /
[configs, zookeeper]
[zk: localhost:2181(CONNECTED) 1] ls /configs
[myconf]
[zk: localhost:2181(CONNECTED) 2] ls /configs/myconf
[admin-extra.menu-top.html, currency.xml, protwords.txt, mapping-FoldToASCII.txt, _schema_analysis_synonyms_english.json, _rest_managed.json, solrconfig.xml, _schema_analysis_stopwords_english.json, stopwords.txt, lang, spellings.txt, mapping-ISOLatin1Accent.txt, admin-extra.html, xslt, synonyms.txt, scripts.conf, update-script.js, velocity, elevate.xml, admin-extra.menu-bottom.html, clustering, schema.xml]
[zk: localhost:2181(CONNECTED) 3]
退出：
[zk: localhost:2181(CONNECTED) 3] quit
第七步：修改tomcat/bin目錄下的catalina.sh 檔案，關聯solr和zookeeper。
把此配置新增到配置檔案中，為每個tomcat的catalina.sh都要配置下面這句話
JAVA_OPTS="-DzkHost=ip:port1,ip:port2,ip:port3"
第八步：啟動每個tomcat例項。要保證zookeeper叢集是啟動狀態。
第九步：訪問叢集
當叢集建立好之後，會以拓撲的方式為我們展現架構。預設建立了一個分片，並且在四個solr伺服器中選舉了一個leader(黑色)，其餘三個是follower（白色）。
但是這個拓撲並不是我們想要的拓撲，我們需要2個分片，並且每個分片中又有一主一備，那麼該如何實現呢？
- 建立新的collection(隨便連線一個solr結點)
http://ip:8084/solr/admin/collections?action=CREATE&name=collection2&numShards=2&replicationFactor=2
action:CREATE
name:自己起的collection名稱
numShards:分片個數
relocationFactor:備份個數
當執行上面命令時，瀏覽器會顯示如下頁面資訊
再次連線solr叢集：
- 刪除不需要的collection
http://ip:8084/solr/admin/collections?action=DELETE&name=collection1
SolrCloud以及建立好了，下節將學習如何使用SolrJ管理SolrCloud。