1. 程式人生 > >kubernetes 1.6版以上1.8版以下彈性伸縮HPA-Memory

kubernetes 1.6版以上1.8版以下彈性伸縮HPA-Memory

一:前言

在kubernetes中,Pod是最基礎的排程單位,多個pod 可以組成一個集合,這個集合向外提供服務。這時候,我們需要以下兩種情形需要關注:

1)集合中的Pod可能會由於某種原因Fail,這時候需要某種機制能夠建立新的Pod以確保有足夠數量的Pod在執行。

2)Pod 的個數由訪問請求決定。即當前例項個數不足以滿足訪問請求時,需要增加例項個數,反之,需要通過某種策略減少例項數。

如果人工來實時監控例項的執行狀態,手動啟動新的pod以替代fail的pod,監控例項的負載情況,手動建立或者刪除pod,這個工作繁瑣且工作量大,好在kubernetes已經有相應的機制來應對這種變化。
本篇文章主要介紹在k8s1.6版本以上,k8s1.8版本一下,HPA基於CPU、Memory的彈性伸縮,採用heaspter收集的監控指標。

二:部署目標

  • 執行一個php-apache-cpu例項
  • 建立一個基於CPU彈性的HPA資源
  • 對例項進行壓測
  • 對HPA進行驗證
  • 執行一個php-apache-memory例項
  • 建立一個基於Memory彈性的HPA資源
  • 對例項進行壓測
  • 對HPA進行驗證

三:HPA原理圖 ##

Kubernetes有一個HPA(Horizontal Pod Autoscaler)的資源,可以實現基於CPU使用率的Pod自動伸縮的功能。HPA基於Master Node上的kube-controller-manager服務啟動引數–horizontal-pod-autoscaler-sync-period定義的時長(預設為30秒),週期性的檢測Pod的CPU使用率(需要事先安裝heapster)。如果需要設定–horizontal-pod-autoscaler-sync-period可以在Master Node上的/etc/default/kube-controller-manager中修改。
這裡寫圖片描述

四:部署步驟

基於CPU的HPA

建立php-apache-cpu例項的Deployment和Service
通過kubectl 命令建立Deployment和Service.
命令如下:

kubectl run php-apache-cpu --image=gcr.io/google_containers/hpa-examplel:v1.0 --requests=cpu=200m --expose --port=80
service "php-apache-cpu" created
deployment "php-apache-cpu” created

建立HPA可以通過命令列和yaml檔案建立。
yaml檔案方式
通過kubectl create -f hpa-cpu-example.yaml檔案建立HPA.檔案內容如下:

apiVersion: autoscaling/v1
kind: HorizontalPodAutoscaler
metadata:
  name: php-apache
  namespace: default
spec:
  scaleTargetRef:
    apiVersion: v1
    kind: Deployment
    name: php-apache-cpu
  minReplicas: 1
  maxReplicas: 10
  targetCPUUtilizationPercentage: 50

命令列方式:

kubectl autoscale deployment php-apache-cpu --cpu-percent=50 --min=1 --max=10
deployment "php-apache-cpu" autoscaled

檢視建立的hpa,結果發現當前的CPU使用率CURRENT顯示為waiting.

# kubectl get hpa php-apache-cpu
NAME         REFERENCE                                TARGET    CURRENT     MINPODS   MAXPODS   AGE
php-apache-cpu   Deployment/php-apache-cpu   50%       <waiting>   1         10        8s

注意:有可能是由於heapster元件沒有安裝,也有可能是資料沒有檢測到,預設heapster採集時間為1分,需要稍等一會看一下狀態。

# kubectl get hpa php-apache-cpu
NAME         REFERENCE                                TARGET    CURRENT     MINPODS   MAXPODS   AGE
php-apache-cpu   Deployment/php-apache-cpu   50%       0%   1         10        60s

如果要檢視hpa的事件,kubectl describe hpa php-apache-cpu ,會出這些錯誤資訊
MetricsNotAvailableYet unable to get metrics for resource cpu: no metrics returned from heapster。
這種錯誤資訊需要稍等一會多看幾次,分析一下是什麼原因導致的,有可能只是時間差導致的。

對php-apache-cpu進行壓力測試

kubectl run -i --tty load-generator --image=busybox:latest /bin/sh #進入容器後執行一下命令

while true; do wget -q -O- http://php-apache-cpu.default.svc.cluster.local; done

壓測幾分鐘後檢視hpa狀態,如果cpu壓力超過了設定的閾值,可以停止壓測。
檢視hpa狀態:
NAME REFERENCE TARGET CURRENT MINPODS MAXPODS AGE
php-apache-cpu Deployment/php-apache-cpu 50% 200% 1 10 60s
狀態已經超過了閾值,此時檢視pod,pod的數量已經增加了。

[email protected]:# kubectl get pods
NAME                             READY     STATUS    RESTARTS   AGE
load-generator-535521892-scxsg   1/1       Running   0          6d
ache-1czu1                 1/1       Running   0          6d
php-apache-cpu-a4g4x                 1/1       Running   0          6d
php-apache-cpu-d2nn1                 1/1       Running   0          6d
php-apache-cpu-epnpf                 1/1       Running   0          6d
php-apache-cpu-ffuhk                 1/1       Running   0          6d
php-apache-cpu-g78ms                 1/1       Running   0          6d
php-apache-cpu-nglin                 1/1       Running   0          6d
php-apache-cpu-sxz5y                 1/1       Running   0          7d
php-apache-cpu-t7s8e                 1/1       Running   0          6d
php-apache-cpu-v7zxm                 1/1       Running   0          6d

當停止壓力測試之後,過一段時間,Pod數量又會恢復到1。

基於Memory的HPA

建立php-apache-memory例項的Deployment和Service
通過kubectl 命令建立Deployment和Service.
命令如下:

kubectl run php-apache-mem --image=gcr.io/google_containers/hpa-examplel:v1.0 --requests=cpu=200mi --expose --port=80
service "php-apache-mem" created
deployment "php-apache-mem" created

建立HPA資源
通過autoscaling/v2alpha1獲取yaml檔案,通過kube-adm安裝的kubernetes,預設是不支援此API的,在安裝時需要開啟此支援,參考<支援記憶體HPA Memory指標的Kubernetes的部署>,命令如下

 kubectl get hpa.v2alpha1.autoscaling -o yaml > /tmp/hpa-v2.yaml

注意:API版本autoscaling/v2alpha1根據kubernetes版本而變,1.8以上改為autoscaling/v2beta1
檔案內容如下:

apiVersion: autoscaling/v2alpha1
kind: HorizontalPodAutoscaler
metadata:
  name: php-apache-cpu
  namespace: default
spec:
  scaleTargetRef:
    apiVersion: apps/v1beta1
    kind: Deployment
    name: php-apache-cpu
  minReplicas: 1
  maxReplicas: 10
  metrics:
  - type: Resource
    resource:
      name: cpu
      targetAverageUtilization: 50
status:
  observedGeneration: 1
  lastScaleTime: <some-time>
  currentReplicas: 1
  desiredReplicas: 1
  currentMetrics:
  - type: Resource
    resource:
      name: cpu
      currentAverageUtilization: 0
      currentAverageValue: 0

注意到CPU的指標targetCPUUtilizationPercentage被metrics替代了。
targetAverageValue 被 targetAverageUtilization替代
將上面的cpu改為內容memory,就可以建立基於memory的HPA資源了。
也可以使用下面的hpa-memory-example.yaml內容。

apiVersion: autoscaling/v2alpha1
kind: HorizontalPodAutoscaler
metadata:
  name: php-apache-mem
  namespace: default
spec:
  maxReplicas: 10
  metrics:
  - resource:
      name: memory
      targetAverageUtilization: 10
    type: Resource
  minReplicas: 1
  scaleTargetRef:
    apiVersion: extensions/v1beta1
    kind: Deployment
    name: php-apache-mem

檢視建立的hpa,結果發現當前的memory使用率CURRENT顯示為waiting.

 kubectl get hpa php-apache-mem
NAME         REFERENCE                                TARGET    CURRENT     MINPODS   MAXPODS   AGE
php-apache-mem   Deployment/php-apache-mem   10%       <waiting>   1         10        8s

注意:有可能是由於heapster元件沒有安裝,也有可能是資料沒有檢測到,預設heapster採集時間為1分,需要稍等一會看一下狀態。

 kubectl get hpa php-apache-mem
NAME         REFERENCE                                TARGET    CURRENT     MINPODS   MAXPODS   AGE
php-apache-mem   Deployment/php-apache-mem   50%       0%   1         10        60s

如果要檢視hpa的事件,kubectl describe hpa php-apache-mem ,會出這些錯誤資訊
MetricsNotAvailableYet unable to get metrics for resource mem: no metrics returned from heapster。
這種錯誤資訊需要稍等一會多看幾次,分析一下是什麼原因導致的,有可能只是時間差導致的。

對php-apache-mem進行壓力測試

kubectl run -i --tty load-generator --image=busybox:latest /bin/sh #進入容器後執行一下命令

while true; do wget -q -O- http://php-apache-mem.default.svc.cluster.local; done

壓測幾分鐘後檢視hpa狀態,如果cpu壓力超過了設定的閾值,可以停止壓測。
檢視hpa狀態:
NAME REFERENCE TARGET CURRENT MINPODS MAXPODS AGE
php-apache-mem Deployment/php-apache-mem 10% 20% 1 10 60s
狀態已經超過了閾值,此時檢視pod,pod的數量已經增加了。

[email protected]:# kubectl get pods
NAME                             READY     STATUS    RESTARTS   AGE
load-generator-535521892-scxsg   1/1       Running   0          6d
ache-1czu1                 1/1       Running   0          6d
php-apache-mem-a4g4x                 1/1       Running   0          6d
php-apache-mem-d2nn1                 1/1       Running   0          6d
php-apache-mem-epnpf                 1/1       Running   0          6d
php-apache-mem-ffuhk                 1/1       Running   0          6d
php-apache-mem-g78ms                 1/1       Running   0          6d
php-apache-mem-nglin                 1/1       Running   0          6d
php-apache-mem-sxz5y                 1/1       Running   0          7d
php-apache-mem-t7s8e                 1/1       Running   0          6d
php-apache-mem-v7zxm                 1/1       Running   0          6d

當停止壓力測試之後,過一段時間,Pod數量又會恢復到1。

四:總結已經注意事項

  1. 如果設定了horizontal-pod-autoscaler-use-rest-clients=true,HPA資源無法從heaspter獲取監控指標
  2. 後續會增加多指標的文件