API용 Deployment를 실행하는 사용자 노드 풀이 있는 AKS 클러스터를 운영하고 있습니다. CPU를 기반으로 Deployment를 2개에서 20개 복제본으로 확장하도록 HPA가 이미 구성되어 있습니다. 피크 이벤트 중에 HPA는 원하는 복제본 수를 늘리지만, 여러 새 Pod가 'Insufficient cpu' 메시지와 함께 Pending 상태로 유지됩니다. 수동 개입 없이 Pod를 예약할 수 있도록 클러스터가 자동으로 용량을 추가하도록 하려고 합니다. 어떻게 해야 할까요?

Insufficient cpu' 메시지와 함께 Pod가 Pending 상태로 유지되는 것은 현재 노드에 Pod를 예약할 수 있는 충분한 CPU 리소스가 없음을 나타냅니다. HPA는 Pod 복제본 수를 늘리지만, 노드 용량이 부족하여 새 Pod가 시작되지 못합니다. AKS 클러스터 자동 스케일러를 활성화하면 노드 풀의 리소스가 부족할 때 자동으로 새 노드를 추가하여 Pod를 예약할 수 있는 용량을 확보합니다. 최소 및 최대 노드 수를 설정하여 비용을 제어하면서 필요한 경우 확장을 허용할 수 있습니다. HPA maxReplicas 값을 늘리는 것은 더 많은 Pod를 생성할 수 있게 하지만, 노드 용량이 부족하면 여전히 Pending 상태로 남게 됩니다. HPA를 메모리 지표로 변경하는 것은 CPU 부족 문제를 해결하지 못합니다. Vertical Pod Autoscaler는 개별 Pod의 리소스 요청 및 제한을 조정하여 효율성을 높이지만, 노드 용량 자체를 늘리지는 않습니다.