CPU 기반 모델이 업무 시간 중에는 간헐적인 트래픽으로 실시간 예측을 제공하고, 업무 시간 외에는 유휴 상태를 유지합니다. 이 패턴에 가장 비용 효율적인 SageMaker 호스팅 옵션은 무엇입니까?

SageMaker Serverless Inference는 간헐적인 트래픽 패턴에 가장 비용 효율적입니다. 이 옵션은 사용량에 따라 자동으로 컴퓨팅 용량을 확장하고 축소하며, 유휴 상태일 때는 요금이 부과되지 않으므로 업무 시간 외 유휴 상태를 유지하는 시나리오에 적합합니다. 업무 시간 중 트래픽 급증을 처리하기 위해 프로비저닝된 동시성을 구성하여 지연 시간을 최소화할 수 있습니다. SageMaker 실시간 엔드포인트는 항상 인스턴스가 실행되므로 유휴 시간에도 비용이 발생하여 비용 효율적이지 않습니다. 비동기 추론은 실시간 예측이 아닌 대규모 페이로드 또는 배치 처리에 적합합니다. 예약된 Lambda 함수로 실시간 엔드포인트를 활성화/비활성화하는 것은 복잡하고 엔드포인트 시작 시간으로 인해 실시간 예측 요구 사항을 충족하기 어려울 수 있습니다.