MediaWatch는 실시간 비디오 분류 모델을 실행하며, 모델 실행 시간이 증가할 때 알림을 받기를 원합니다. 모델 컨테이너 추론 시간만 증가하는 것을 감지하려면 어떤 CloudWatch 지표를 사용해야 하며, 특정 엔드포인트 변형에 대한 지속적인 증가에 대해 알림을 설정하는 권장 방법은 무엇입니까?

정답은 EndpointName 및 VariantName 차원을 사용하는 AWS/SageMaker 'ModelLatency' 지표를 사용하고, 5분 동안 p90 통계에 CloudWatch 알람을 생성하며 평가 기간을 3으로 설정하는 것입니다. ModelLatency는 모델 컨테이너 내에서 추론에 소요된 시간을 측정하여 모델 자체의 성능 저하를 정확하게 파악할 수 있습니다. p90 통계는 대부분의 요청에 대한 지연 시간을 반영하여 이상치에 덜 민감하게 반응하며, 여러 평가 기간은 일시적인 스파이크가 아닌 지속적인 증가를 감지하는 데 도움이 됩니다. 오답 설명: OverheadLatency는 SageMaker 서비스의 오버헤드를 측정하므로 모델 컨테이너 추론 시간과 직접적인 관련이 없습니다. InvocationDuration은 전체 요청 처리 시간을 측정하므로 모델 컨테이너 내부 시간 외에 네트워크 및 SageMaker 오버헤드도 포함합니다. 차원이 없는 ModelLatency는 특정 엔드포인트 변형을 구분하지 못하며, Minimum이 임계값 아래로 떨어지는 것은 지연 시간 증가가 아닌 감소를 나타냅니다.