2. 程式人生 > >docker簡易搭建ElasticSearch叢集

docker簡易搭建ElasticSearch叢集

阿新 • • 發佈：2018-11-08

寫在前面：為什麼要用ElasticSearch？我們的應用經常需要新增檢索功能，開源的Elastic Search是目前全文檢索引擎的首選。它可以快速的儲存、搜尋和分析海量資料。ElasticSearch是一個分散式搜尋框架，提供RestfulAPI，底層基於Lucene，採用多shard（分片）的方式保證資料安全，並且提供自動resharding的功能。

Elasticsearch: 權威指南(中文)：https://www.elastic.co/guide/cn/elasticsearch/guide/current/index.html

一、拉取ElasticSearch映象

在centos視窗中，執行如下命令：

docker pull elasticsearch:5.6.8

當前ES映象版本資訊：

 {
  "name" : "WlwFyqU",
  "cluster_name" : "elasticsearch",
  "cluster_uuid" : "78UDZtviQqiWmzmenGpSrQ",
  "version" : {
    "number" : "5.6.8",
    "build_hash" : "cfe3d9f",
    "build_date" : "2018-09-10T20:12:43.732Z",
    "build_snapshot" : false,
    "lucene_version" : "6.6.1"
  },
  "tagline" : "You Know, for Search"
 }

二、建立資料掛在目錄，以及配置ElasticSearch叢集配置檔案，調高JVM執行緒數限制數量

1.建立資料檔案掛載目錄,並開放通訊埠

在centos視窗中，執行如下操作：

[[email protected] soft]# pwd
/home/soft
[[email protected] soft]# mkdir -p ES/config
[[email protected] soft]# cd  ES 
[[email protected] ES]# mkdir data1
[[email protected] ES]# mkdir data2
 

[[email protected] ES]# mkdir data3
[[email protected] ES]# cd ES/config/
[[email protected] ES]# firewall-cmd --add-port=9300/tcp
success
[[email protected] ES]# firewall-cmd --add-port=9301/tcp
success
[[email protected] ES]# firewall-cmd --add-port=9302/tcp
success

注：如果ELK選的6.X版本的，那麼讀者需將data1 data2 data3 開啟777許可權=> chmod 777 data1 data2 data3

2.建立ElasticSearch配置檔案

在centos視窗中，使用vim命令分別建立如下檔案：es1.yml,es2.yml,es3.yml

es1.yml

cluster.name: elasticsearch-cluster
node.name: es-node1
network.bind_host: 0.0.0.0
network.publish_host: 192.168.9.219
http.port: 9200
transport.tcp.port: 9300
http.cors.enabled: true
http.cors.allow-origin: "*"
node.master: true 
node.data: true  
discovery.zen.ping.unicast.hosts: ["192.168.9.219:9300","192.168.9.219:9301","192.168.9.219:9302"]
discovery.zen.minimum_master_nodes: 2

es2.yml

cluster.name: elasticsearch-cluster
node.name: es-node2
network.bind_host: 0.0.0.0
network.publish_host: 192.168.9.219
http.port: 9201
transport.tcp.port: 9301
http.cors.enabled: true
http.cors.allow-origin: "*"
node.master: true 
node.data: true  
discovery.zen.ping.unicast.hosts: ["192.168.9.219:9300","192.168.9.219:9301","192.168.9.219:9302"]
discovery.zen.minimum_master_nodes: 2

es3.yml

cluster.name: elasticsearch-cluster
node.name: es-node3
network.bind_host: 0.0.0.0
network.publish_host: 192.168.9.219
http.port: 9202
transport.tcp.port: 9302
http.cors.enabled: true
http.cors.allow-origin: "*"
node.master: true 
node.data: true  
discovery.zen.ping.unicast.hosts: ["192.168.9.219:9300","192.168.9.219:9301","192.168.9.219:9302"]
discovery.zen.minimum_master_nodes: 2

注：本機虛擬機器ip：192.168.9.219 讀者請自行更改

3.調高JVM執行緒數限制數量

在centos視窗中，修改配置sysctl.conf

vim /etc/sysctl.conf

加入如下內容：

vm.max_map_count=262144

啟用配置：

sysctl -p

注：這一步是為了防止啟動容器時，報出如下錯誤：
bootstrap checks failed max virtual memory areas vm.max_map_count [65530] likely too low, increase to at least [262144]

三、啟動ElasticSearch叢集容器

啟動ElasticSearch叢集容器
在centos視窗中，執行如下命令：

 docker run -e ES_JAVA_OPTS="-Xms256m -Xmx256m" -d -p 9200:9200 -p 9300:9300 -v /home/soft/ES/config/es1.yml:/usr/share/elasticsearch/config/elasticsearch.yml -v /home/soft/ES/data1:/usr/share/elasticsearch/data --name ES01 elasticsearch:5.6.8
 
 docker run -e ES_JAVA_OPTS="-Xms256m -Xmx256m" -d -p 9201:9201 -p 9301:9301 -v /home/soft/ES/config/es2.yml:/usr/share/elasticsearch/config/elasticsearch.yml -v /home/soft/ES/data2:/usr/share/elasticsearch/data --name ES02 elasticsearch:5.6.8

 docker run -e ES_JAVA_OPTS="-Xms256m -Xmx256m" -d -p 9202:9202 -p 9302:9302 -v /home/soft/ES/config/es3.yml:/usr/share/elasticsearch/config/elasticsearch.yml -v /home/soft/ES/data3:/usr/share/elasticsearch/data --name ES03 elasticsearch:5.6.8

注：設定-e ES_JAVA_OPTS="-Xms256m -Xmx256m" 是因為/etc/elasticsearch/jvm.options 預設jvm最大最小記憶體是2G，讀者啟動容器後 可用docker stats命令檢視

四、驗證是否搭建成功

1.在瀏覽器位址列訪問http://192.168.9.219:9200/_cat/nodes?pretty 檢視節點狀態


注：節點名稱帶表示為主節點*

2.使用elasticsearch-head前端框架

  • 1.拉取映象
docker pull mobz/elasticsearch-head:5
  • 2.啟動容器
docker run -d -p 9100:9100 --name es-manager  mobz/elasticsearch-head:5
  • 3.瀏覽器訪問http://192.168.9.219:9100/

寫在最後，這裡要多提一點索引分片設定以及副本，官方推薦設定，讀者根據自身需要進行修改：
curl -XPUT ‘http://localhost:9200/_all/_settings?preserve_existing=true’ -d ‘{
“index.number_of_replicas” : “1”,
“index.number_of_shards” : “10”
}’

附錄：

1.檢視容器記憶體

docker stats $(docker ps --format={{.Names}})

2.檢視容器日誌

docker logs 容器名/容器ID

3.ElasticSearch配置檔案說明

cluster.name: elasticsearch-cluster
node.name: es-node1
#index.number_of_shards: 2
#index.number_of_replicas: 1
network.bind_host: 0.0.0.0
network.publish_host: 192.168.9.219
http.port: 9200
transport.tcp.port: 9300
http.cors.enabled: true
http.cors.allow-origin: "*"
node.master: true 
node.data: true  
discovery.zen.ping.unicast.hosts: ["es-node1:9300","es-node2:9301","es-node3:9302"]
discovery.zen.minimum_master_nodes: 2

注：

  • cluster.name：用於唯一標識一個叢集，不同的叢集，其 cluster.name 不同，叢集名字相同的所有節點自動組成一個叢集。如果不配置改屬性，預設值是：elasticsearch。

  • node.name：節點名，預設隨機指定一個name列表中名字。叢集中node名字不能重複

  • index.number_of_shards: 預設的配置是把索引分為5個分片

  • index.number_of_replicas:設定每個index的預設的冗餘備份的分片數，預設是1

通過 index.number_of_shards，index.number_of_replicas預設設定索引將分為5個分片，每個分片1個副本，共10個結點。
禁用索引的分散式特性，使索引只建立在本地主機上：
index.number_of_shards: 1
index.number_of_replicas: 0
但隨著版本的升級 將不在配置檔案中配置而實啟動ES後，再進行配置

  • bootstrap.memory_lock: true 當JVM做分頁切換（swapping）時，ElasticSearch執行的效率會降低，推薦把ES_MIN_MEM和ES_MAX_MEM兩個環境變數設定成同一個值，並且保證機器有足夠的實體記憶體分配給ES，同時允許ElasticSearch程序鎖住記憶體

  • network.bind_host: 設定可以訪問的ip,可以是ipv4或ipv6的，預設為0.0.0.0，這裡全部設定通過

  • network.publish_host:設定其它結點和該結點互動的ip地址，如果不設定它會自動判斷，值必須是個真實的ip地址

    同時設定bind_host和publish_host兩個引數可以替換成network.host
    network.bind_host: 192.168.9.219
    network.publish_host: 192.168.9.219
    =>network.host: 192.168.9.219

  • http.port:設定對外服務的http埠，預設為9200

  • transport.tcp.port: 設定節點之間互動的tcp埠，預設是9300

  • http.cors.enabled: 是否允許跨域REST請求

  • http.cors.allow-origin: 允許 REST 請求來自何處

  • node.master: true 配置該結點有資格被選舉為主結點（候選主結點），用於處理請求和管理叢集。如果結點沒有資格成為主結點，那麼該結點永遠不可能成為主結點；如果結點有資格成為主結點，只有在被其他候選主結點認可和被選舉為主結點之後，才真正成為主結點。

  • node.data: true 配置該結點是資料結點，用於儲存資料，執行資料相關的操作（CRUD，Aggregation）；

  • discovery.zen.minimum_master_nodes: //自動發現master節點的最小數，如果這個叢集中配置進來的master節點少於這個數目，es的日誌會一直報master節點數目不足。（預設為1）為了避免腦裂，個數請遵從該公式 => (totalnumber of master-eligible nodes / 2 + 1)。 * 腦裂是指在主備切換時，由於切換不徹底或其他原因，導致客戶端和Slave誤以為出現兩個active master，最終使得整個叢集處於混亂狀態*

  • discovery.zen.ping.unicast.hosts： 叢集個節點IP地址，也可以使用es-node等名稱，需要各節點能夠解析

相關推薦

docker簡易搭建ElasticSearch叢集

寫在前面：為什麼要用ElasticSearch？我們的應用經常需要新增檢索功能，開源的Elastic Search是目前全文檢索引擎的首選。它可以快速的儲存、搜尋和分析海量資料。ElasticSearch是一個分散式搜尋框架，提供RestfulAPI，底層基於Lucene，採用多shard（

docker簡易搭建RabbitMQ叢集

寫在前面：rabbitmq叢集與其他叢集有些不同，rabbitmq叢集同步的指是複製佇列，元資料資訊的同步，即同步的是資料儲存資訊；訊息的存放只會儲存在建立該訊息佇列的那個節點上。並非在節點上都儲存一個完整的資料。在通過非資料所在節點獲取資料時，通過元資料資訊，路由轉發到儲存資料節點上，從而

docker簡易搭建MySQL叢集的負載均衡

docker簡易搭建MySQL叢集的負載均衡 寫在前面：為什麼要搭建MySQL叢集的負載均衡呢？在擁有叢集的情況，如果始終都是對叢集中的某個節點伺服器進行資料庫請求，仍然是會造成負載高，效能差。故使用harpoxy中介軟體進行負載均衡。 注：在閱讀此文之前，最好請先閱讀《docke

docker簡易搭建Zookeeper叢集

docker簡易搭建Zookeeper叢集 寫在前面：為什麼要用zookeeper?主要是在分散式架構中，很多時候 需要考慮到資料的一致性問題，資料管理問題，以及事務的執行順序等各種各樣的問題，這時候就有一個zookeeper分散式伺服器框架來幫我們解決這些問題。 docker

docker簡易搭建Redis快取記憶體叢集

docker簡易搭建Redis快取記憶體叢集 寫在前面:為什麼要用Redis？快取記憶體利用記憶體儲存資料，讀寫速度遠超硬碟。快取記憶體可以減少I/O操作，降低I/O壓力。最大10萬次/秒讀寫。例如搶紅包案例：請求熱資料 可以存在快取記憶體，請求普通訊息存在MySQL。 *注：由於R

docker 搭建elasticsearch叢集

docker 搭建es叢集   1、拉去es映象 docker pull docker.io/elasticsea

docker中搭建Hadoop叢集

前提：jdk和ssh服務都已經安裝完成，如未完成，請參考博主所寫部落格 1、建立映象容器 -P將容器的所有埠對映到主機埠 docker run -itd -v /c/Users:/root/build -P -h master --name master --net mynetwork --

docker簡易搭建kafka

docker簡易搭建kafka 寫在前面：在我們大量使用分散式資料庫、分散式計算叢集的時候，是否會遇到這樣的一些問題：想分析一下使用者行為，一遍我能設計出更好的廣告位，相對使用者的搜尋關鍵字盡心統計，分析出前衛的流行趨勢，有些資料存資料庫浪費，直接存硬碟操作效率又低。kafka在這

docker-compose安裝elasticsearch叢集

檔案目錄: 1、編寫docker-compose檔案 version: '3' services: es-master: image: elasticsearch:6.4.3 container_name: es-master restart

1分鐘，通過docker-compose 搭建zookeeper 叢集

一、建立三節點 zookeeper 叢集 將 docker-compose.yml 儲存到當前命令列目錄下 docker-compose.yml 檔案 version: '2' networks: zk: services: zookeeper1: image: zook

基於docker swarm搭建ELK叢集

阿里雲docker安裝教程以及映象下載加速 docker-elastic映象地址 1 Swarm介紹 Swarm是Docker官方提供的一款叢集管理工具，其主要作用是把若干臺Docker主機抽象為一個整體，並且通過一個入口統一管理這些Docker主機上的各種Dock

使用Docker-Compose搭建Rabbitmq叢集

1.使用映象搭建叢集，docker-compose.xml配置見下面的github具體配置 2.如果需要跨伺服器，參考 具體變更如下： 說完埠，下面提供一個三節點的docker-compose檔案。 rabbit1（10.106.136.7） 1

搭建elasticsearch叢集報錯：with the same id but is a different node instance]; ]

記錄一下在安裝 elastic-search 單機多節點是時候報錯解決方案。 [INFO ][o.e.d.z.ZenDiscovery ] [slave-one] failed t o send join request to master [{mast

如何在docker中部署Elasticsearch叢集和kibana

做實驗時需要了解Elasticsearch叢集如何操作？通過使用docker-compose可以批量建立docker容器，啟動ES叢集。 先配置檔案docker-compose.yml檔案如下： 1 version: '2.2' 2 networks: 3 esnet: 4 services:

Docker機搭建mysql叢集

1、準備工作1.1 Docker虛擬機器。本例項採用Win10安裝的虛擬機器.安裝方法請參見https://blog.csdn.net/oyinhezhiguang/article/details/805505341.2 Linux連線終端。本例項採用xshell。1.3 m

docker下搭建fastfds叢集版

搭建過程參考 作者 https://me.csdn.net/feng_qi_1984 的課程視訊 宣告：叢集版是在我之前寫的單機版基礎之上進行搭建的，我將安裝了fastfds單機版的docker打包成了映象。如對fastfds搭建流程不熟悉者，需先參閱之前的文章。點選進入文章首先借鑑一個公眾號的兩張

Docker中搭建zookeeper叢集

1.獲取官方映象 從dockerhub獲取官方的zookeeper映象： docker pull zookeeper 2.瞭解映象內容 拉取完映象後，通過 docker inspect zookeeper 我們可以檢視到關於該映象的一些基本資訊： ...... "Env": [ "PATH=/usr/

Windows下搭建elasticsearch叢集案例

1、建立一個資料夾“es-cluster”，然後解壓zip包後，進入資料夾中將裡面的一個單獨資料夾複製多份到“es-cluster”資料夾中。然後重新命名為elasticsearch-2.1.1

Centos7.0上用docker下搭建codis叢集

1.環境 引數 值 宿主機ip 10.210.234.203 宿主機核心版本 3.10.0-123.el7.x86_64 宿主機cpu 4個單核cpu docker版本 1.9.1 網路模

docker快速搭建hadoop叢集

學習Hadoop叢集環境搭建是Hadoop入門必經之路。搭建分散式叢集通常有兩個辦法： 要麼找多臺機器來部署（常常找不到機器）或者在本地開多個虛擬機器（開銷很大，對宿主機器效能要求高，光是安裝多個虛擬機器系統就得搞半天……）。那麼，問題來了！ 有沒有更有可行性的辦法？ 提到虛擬化，最近很是火熱！不妨拿來在本