補充一些遺漏的問題.

本章主要內容:

1. 使用 constraints 指定 service 約束.
2. service 掛載使用本地volume.
3. ELK日誌平臺使用GELF日誌驅動收集日誌.

1. 指定service約束

在前幾章中, 我們建立的 registry 服務,是由swarm自動排程定義執行在某個節點上的. 這樣的話我們如果我們重啟 service 以後, registry 服務可能會被啟動再隨機的節點.

造成我們上傳的映象都不見了. 如何解決這個問題呢?

在建立service的時候可以使用 --constraints 引數,後面跟表示式,限制service容器在每個節點的排程情況.比如你想指定service執行在某個節點上等.

例如指定service執行在node01上:

docker service create --name registry --publish 5000:5000 \
--constraint 'node.hostname==node01' registry

除了 hostname 也可以使用其他節點屬性來建立約束表示式寫法參見下表:

使用者自定義labels可以使用 docker node update 命令新增, 例如:

# docker node update --label-add security=high node01

檢視自定義labels

# docker node inspect node01
 

[
    {
        "ID": "0nhjsflo3tbd0b7hv2cyrjpin",
...
        "Spec": {
            "Labels": {
                "security": "high"
            },
            "Role": "manager",
            "Availability": "active"
        },
        "Description": {
            "Hostname": "node01",
            "Platform": {
                "Architecture": "x86_64",
                "OS": "linux"
            },
...
    }
]

對於已有service, 可以通過 docker service update ,新增 constraint配置, 例如:

docker service update registry \
--constraint-add 'node.labels.security==high'

2. volume 建立管理

有了service約束, 我們可以保證我們的 registry 服務, 一直在node01節點上了. 不過還有一個問題, 就是如果我們刪除了 registry 服務. 那我們上傳的容器映象也就被刪除了.

如何保證即使 registry 服務被刪除, 映象可以保留呢?

這裡我們可以使用 docker volume 指定掛載一個數據卷用來儲存映象, 即使 registry 服務被刪除了. 我們重新啟動一個服務, 掛載這個資料卷. 我們上傳的映象還可以儲存的.

在 swarm 叢集中我們可以建立本地卷或者全域性捲來掛載到容器, 用來儲存資料.

• 全域性卷可以被掛載在 swarm 叢集的任意節點, 所以不管你的服務容器啟動在哪個節點, 都可以訪問到資料. 不過docker目前還沒有預設的全域性卷驅動支援, 你可以安裝一些外掛驅動來實現全域性卷例如Flocker, Portworx等.

• 本地卷, 就只存在與某個節點本地的一個掛載卷.

Storage is Hard 這裡我們還是使用簡單的本地卷吧, ^_^ .

為我們剛剛新建的 registry 服務, 掛載一個本地卷,可以使用如下命令:

docker service update registry \
       --mount-add type=volume,source=registry-vol,target=/var/lib/registry

source=registry-vol 中 registry-vol 為卷名字, 執行上述命令以後,docker會自動為我們建立一個 registry-vol 本地卷.

可以使用 docker volume ls 命令檢視:

# docker volume ls
DRIVER              VOLUME NAME
local               registry-vol

# docker volume inspect registry-vol
[
    {
        "Name": "registry-vol",
        "Driver": "local",
        "Mountpoint": "/var/lib/docker/volumes/registry-vol/_data",
        "Labels": null,
        "Scope": "local"
    }
]

上面命令, 可以看到本機卷掛載到節點的目錄.

這樣即使我們現在刪除 registry 服務. 也可以只用如下命令重新建立一個 registry 服務, 掛載 registry-vol 來找回我們的映象.

docker service create --name registry --publish 5000:5000 \
--mount source=registry-vol,type=volume,target=/var/lib/registry \
-e SEARCH_BACKEND=sqlalchemy \
--constraint 'node.hostname==node01' registry

測試

使用docker-compose 編譯上傳我們的docker幣映象

[[email protected] ~]# git clone https://github.com/jpetazzo/orchestration-workshop.git
[[email protected] ~]# orchestration-workshop/dockercoins
[[email protected] dockercoins]# cat docker-compose.yml-images
version: "2"

services:
  rng:
    build: rng
    image: ${REGISTRY_SLASH}rng${COLON_TAG}
    ports:
    - "8001:80"

  hasher:
    build: hasher
    image: ${REGISTRY_SLASH}hasher${COLON_TAG}
    ports:
    - "8002:80"

  webui:
    build: webui
    image: ${REGISTRY_SLASH}webui${COLON_TAG}
    ports:
    - "8000:80"
    volumes:
    - "./webui/files/:/files/"

  redis:
    image: redis

  worker:
    build: worker
    image: ${REGISTRY_SLASH}worker${COLON_TAG}

上傳我們的應用映象到 registry

export REGISTRY_SLASH=localhost:5000/
export COLON_TAG=:v0.01
docker-compose -f docker-compose.yml-images build
docker-compose -f docker-compose.yml-images push

測試 registry 內容

[root@node01 dockercoins]# curl localhost:5000/v2/_catalog
{"repositories":["hasher","rng","webui","worker"]}

刪除 registry 服務

[[email protected] dockercoins]# docker service ls
ID            NAME      REPLICAS  IMAGE     COMMAND
5qvu78ths5wb  registry  1/1       registry  
[root@node01 dockercoins]# docker service rm registry
registry

服務刪除以後我們可以看到本地卷還在.

[[email protected] dockercoins]# docker volume ls
DRIVER              VOLUME NAME
local               registry-vol

重建 registry 服務, 掛載 registry-vol 卷.

[[email protected] dockercoins]#  docker service create --name registry --publish 5000:5000  --mount source=registry-vol,type=volume,target=/var/lib/registry  -e SEARCH_BACKEND=sqlalchemy  --constraint 'node.hostname==node01' registry
[[email protected] dockercoins]# curl localhost:5000/v2/_catalog
{"repositories":["hasher","rng","webui","worker"]}

3. ELK日誌平臺使用GELF驅動收集日誌

上一章我們介紹了ELK日誌平臺, 用於管理收集swarm叢集的應用日誌. 當時我們使用的logspout容器, 自動將我們swarm節點上所有容器日誌傳送的日誌平臺.

可是如果我們關心特定容器的日誌, 並不想收集其他容器的日誌怎麼辦呢?

我們可以時候建立service的時候使用 --log-driver 引數, 使用GELF驅動將日誌傳送到ELK平臺.

建立ELK平臺

上一章已經有詳細說明了, 下面這裡簡單過一下, 湊字數.哈哈…

建立Logging網路

docker network create --driver overlay logging

建立Elasticsearch服務

docker service create --network logging --name elasticsearch \
--mount source=elasticsearch-vol,type=volume,target=/usr/share/elasticsearch \
--constraint 'node.hostname==node02' \
elasticsearch

建立Kibana服務

docker service create --network logging --name kibana --publish 5601:5601 \
      -e LOGSPOUT=ignore -e ELASTICSEARCH_URL=http://elasticsearch:9200 kibana

建立Logstash服務

我們重新build一個logstash映象, 使用 ~/orchestration-workshop/elk/logstash.conf 這個配置檔案.

[[email protected] ~]cd ~/orchestration-workshop/elk/
[[email protected] elk]# cat Dockerfile
FROM logstash
COPY logstash.conf /etc/logstash/
CMD ["-f", "/etc/logstash/logstash.conf"]
[[email protected] elk]# docker build -t localhost:5000/logstash .
[[email protected] elk]# docker push localhost:5000/logstash

啟動logstash

docker service create --network logging --name logstash -p 12201:12201/udp \
       localhost:5000/logstash

傳送容器日誌到logstash

我們已經有了ELK平臺, 下面我們啟動 docker幣 應用, 傳送容器日誌到logstash.

很簡單, 只要在建立 service 的時候新增 --log-driver 和 --log-opt兩個引數就行了.

#建立應用網路
docker network create --driver overlay dockercoins
#啟動我們的docker幣 webui應用
DOCKER_REGISTRY=localhost:5000
TAG=v0.01
docker service create --network dockercoins --name webui \
--log-driver gelf --log-opt gelf-address=udp://127.0.0.1:12201 \
       -p 8000:80 $DOCKER_REGISTRY/webui:$TAG

使用下面這段指令碼啟動hasher rng worker 應用:

DOCKER_REGISTRY=localhost:5000
TAG=v0.01
for SERVICE in hasher rng worker; do
docker service create --network dockercoins --name $SERVICE \
--log-driver gelf --log-opt gelf-address=udp://127.0.0.1:12201 \
       $DOCKER_REGISTRY/$SERVICE:$TAG
done

啟動redis資料庫:

docker service create --network dockercoins \
--limit-memory 100M --name redis \
--mount source=redis-vol,type=volume,target=/data \
--constraint 'node.hostname==node03' \
redis

為了方便觀看日誌, 我們sacle up下應用, 多啟動一些容器:

docker service scale worker=10 rng=10

##4. visualier

visualizer是一個小程式,用於視覺化 swarm 叢集容器分佈情況.

在 swarm 的manager節點上執行, HOST 引數指定節點IP地址.

docker run --name visualizer -d \
    -p 8089:8089 \
    -e HOST=192.168.33.101 \
    -e PORT=8089 \
    -v /var/run/docker.sock:/var/run/docker.sock \
    manomarks/visualizer

最後

挖坑, 有了日誌收集平臺, 我們還需要效能監控平臺, 所以下一章介紹下如何使用cadvisor, influxdb, grafana搭建簡單的swarm效能監控平臺.

influxdb

docker service create --network logging \
-p 8083:8083 -p 8086:8086 \
--mount source=influxdb-vol,type=volume,target=/var/lib/influxdb \
--name=influxdb --constraint 'node.hostname==node03' \
influxdb:alpine

docker service create --network logging --name cadvisor --mode global \
--mount source=/var/run/,type=bind,target=/var/run,readonly=false \
--mount source=/,type=bind,target=/rootfs,readonly=true \
--mount source=/sys,type=bind,target=/sys,readonly=true \
--mount source=/var/lib/docker/,type=bind,target=/var/lib/docker,readonly=true \
google/cadvisor:latest -storage_driver=influxdb -storage_driver_host=influxdb:8086 \
-storage_driver_db=cadvisor

docker service create --network logging -p 3000:3000 -e INFLUXDB_HOST=influxdb -e INFLUXDB_PORT=8086 -e INFLUXDB_NAME=grafana -e INFLUXDB_USER=root -e INFLUXDB_PASS=root -e "GF_SECURITY_ADMIN_PASSWORD=admin" --constraint 'node.hostname==node05' --name grafana grafana/grafana