Custom Metric(ex. RPS)으로 HPA 설정하기

이 문서는 Kubernetes 환경에서 Custom Metric을 사용해 오토 스케일링하는 과정을 설명합니다. HPA 작동 방식부터 RPS로 오토 스케일링하는 방법, prometheus-adapter 설치, HPA 정의 등을 포함합니다.

티스 오토 스케일링 HPA의 작동 방식

HPA에서 Metric API를 통해 값을 수집하고, 현재 Metric 값을 바탕으로 원하는 Pod 개수를 계산하고 Scale 요청을 보냅니다. 따라서 Metric API Server를 따로 설치해야 합니다.

RPS로 오토 스케일링하기

핑퐁 팀은 istio, prometheus를 사용해 RPS 기준으로 오토 스케일링하는 HPA를 설정합니다. prometheus-adapter를 사용해 Metric API를 구성합니다.

1. RPS 측정
2. prometheus-adapter 설치
3. HPA 정의

각자 필요한 Metric을 사용해 오토 스케일링 설정을 할 수 있습니다.

참고 자료

이 문서는 Kubernetes에서 제공하는 오토 스케일링 기능 및 Metric API Server, prometheus-adapter 설치, RPS를 사용한 HPA 설정 등에 대한 정보를 제공하고 있습니다. 필요한 경우 추가적인 자료를 참고해 보세요.