한 회사에서 고객이 금융 정보를 검색할 수 있도록 API를 제공합니다. 이 회사는 피크 시간 동안 요청이 급증할 것으로 예상하며 일관되게 낮은 지연 시간의 응답을 요구합니다. 이 회사는 운영 오버헤드가 가장 적은 API용 컴퓨팅 호스트를 제공해야 합니다. 어떤 솔루션을 사용해야 할까요?

정답은 Amazon API Gateway와 프로비저닝된 동시성이 있는 AWS Lambda 함수를 사용하는 것입니다. API Gateway는 API를 생성, 게시, 유지 관리, 모니터링 및 보안하는 완전 관리형 서비스로, 요청 급증에 효과적으로 대응합니다. 프로비저닝된 동시성을 가진 Lambda 함수는 콜드 스타트를 제거하여 일관되게 낮은 지연 시간의 응답을 보장합니다. 이는 운영 오버헤드가 가장 적은 서버리스 솔루션입니다. Application Load Balancer (ALB)와 Amazon ECS 또는 EKS는 컨테이너 기반 솔루션으로, 서버리스 Lambda보다 운영 오버헤드가 더 큽니다. 특히 EKS는 관리 복잡성이 높습니다. 예약된 동시성(reserved concurrency)이 있는 Lambda 함수는 콜드 스타트를 방지하지 못하므로, 낮은 지연 시간 요구 사항을 충족하기 어렵습니다.