概述
Horizontal Pod Autoscaler(HPA,Pod水平自動伸縮),根據平均 CPU 利用率、平均內存利用率或你指定的任何其他自定義指標自動調整 Deployment 、ReplicaSet 或 StatefulSet 或其他類似資源,實現部署的自動擴展和縮減,讓部署的規模接近于實際服務的負載。HPA不適用于無法縮放的對象,例如DaemonSet。
官方文檔:https://kubernetes.io/zh-cn/docs/tasks/run-application/horizontal-pod-autoscale/
實際生產中,一般使用這四類指標:
Resource metrics——CPU核 和 內存利用率指標。
Pod metrics——例如網絡利用率和流量。
Object metrics——特定對象的指標,比如Ingress, 可以按每秒使用請求數來擴展容器。
Custom metrics——自定義監控,比如通過定義服務響應時間,當響應時間達到一定指標時自動擴容。
安裝 metrics-server
HAP 前提條件
默認情況下,Horizontal Pod Autoscaler 控制器會從一系列的 API 中檢索度量值。集群管理員需要確保下述條件,以保證 HPA 控制器能夠訪問這些 API:
對于資源指標,將使用 metrics.k8s.io API,一般由 metrics-server 提供。它可以作為集群插件啟動。
對于自定義指標,將使用 custom.metrics.k8s.io API。它由其他度量指標方案廠商的“適配器(Adapter)” API 服務器提供。檢查你的指標管道以查看是否有可用的 Kubernetes 指標適配器。
對于外部指標,將使用 external.metrics.k8s.io API??赡苡缮厦娴淖远x指標適配器提供。
Kubernetes Metrics Server:
Kubernetes Metrics Server 是 Cluster 的核心監控數據的聚合器,kubeadm 默認是不部署的。
Metrics Server 供 Dashboard 等其他組件使用,是一個擴展的 APIServer,依賴于 API Aggregator。所以,在安裝 Metrics Server 之前需要先在 kube-apiserver 中開啟 API Aggregator。
Metrics API 只可以查詢當前的度量數據,并不保存歷史數據。
Metrics API URI 為 /apis/metrics.k8s.io/,在 k8s.io/metrics 下維護。
必須部署 metrics-server 才能使用該 API,metrics-server 通過調用 kubelet Summary API 獲取數據。
開啟 API Aggregator
開始安裝 metrics-server
下載
修改
解決方法:在metrics-server中添加--kubelet-insecure-tls參數跳過證書校驗
開始安裝
Horizontal Pod Autoscaler 工作原理
原理架構圖
自動檢測周期由 kube-controller-manager 的 --horizontal-pod-autoscaler-sync-period 參數設置(默認間隔為 15 秒)。
metrics-server 提供 metrics.k8s.io API 為pod資源的使用提供支持。
15s/周期 -> 查詢metrics.k8s.io API -> 算法計算 -> 調用scale 調度 -> 特定的擴縮容策略執行。
HPA擴縮容算法
從最基本的角度來看,Pod 水平自動擴縮控制器根據當前指標和期望指標來計算擴縮比例。
擴容
如果計算出的擴縮比例接近 1.0, 將會放棄本次擴縮, 度量指標 / 期望指標接近1.0。
縮容
冷卻/延遲: 如果延遲(冷卻)時間設置的太短,那么副本數量有可能跟以前一樣出現抖動。默認值是 5 分鐘(5m0s)--horizontal-pod-autoscaler-downscale-stabilization
特殊處理
丟失度量值:縮小時假設這些 Pod 消耗了目標值的 100%, 在需要放大時假設這些 Pod 消耗了 0% 目標值。這可以在一定程度上抑制擴縮的幅度。
存在未就緒的pod的時候:我們保守地假設尚未就緒的 Pod 消耗了期望指標的 0%,從而進一步降低了擴縮的幅度。
未就緒的 Pod 和缺少指標的 Pod 考慮進來再次計算使用率。如果新的比率與擴縮方向相反,或者在容忍范圍內,則跳過擴縮。否則,我們使用新的擴縮比例。指定了多個指標, 那么會按照每個指標分別計算擴縮副本數,取最大值進行擴縮。
HPA 對象定義
HPA對象默認行為
示例演示
編排yaml
主要參數解釋如下:
scaleTargetRef:目標作用對象,可以是Deployment、ReplicationController或ReplicaSet。
minReplicas和maxReplicas:Pod副本數量的最小值和最大值,系統將在這個范圍內進行自動擴縮容操作,并維持每個Pod的內存使用率為40%,這個值就是上面設置的閾值averageUtilization。
metrics:目標指標值。在metrics中通過參數type定義指標的類型;通過參數target定義相應的指標目標值,系統將在指標數據達到目標值時(考慮容忍度的區間,見前面算法部分的說明)觸發擴縮容操作。
對于CPU使用率,在target參數中設置averageUtilization定義目標平均CPU使用率。
對于內存資源,在target參數中設置AverageValue定義目標平均內存使用值。
執行
使用 ab 工具進行壓測
進入apache官網 下載apache即可,或者直接通過yum安裝apache都行,這里選擇最簡單的方式yum安裝
開始壓測
從上圖發現已經實現了根據CPU 動態擴容了。