MediaWatch ejecuta un modelo de clasificación de video en tiempo real y desea alertar cuando el tiempo de ejecución del modelo aumenta. ¿Qué métrica de CloudWatch se debe usar para detectar solo el aumento del tiempo de inferencia del contenedor del modelo, y cuál es la forma recomendada de generar una alarma sobre aumentos sostenidos para una variante particular de un endpoint?

La opción correcta es la más adecuada porque ModelLatency mide directamente el tiempo que tarda el contenedor del modelo en procesar una solicitud, lo cual es exactamente lo que se busca para detectar aumentos en el tiempo de inferencia del modelo. Usar las dimensiones EndpointName y VariantName permite monitorear una variante específica del endpoint. Configurar una alarma en el percentil p90 (o un percentil alto) durante un período de 5 minutos con 3 períodos de evaluación garantiza que se detecten aumentos sostenidos y no solo picos transitorios. OverheadLatency no es correcto porque mide el tiempo fuera del contenedor del modelo, como el enrutamiento y la sobrecarga de SageMaker, no el tiempo de inferencia del modelo en sí. InvocationDuration mide la duración total de la invocación, incluyendo la sobrecarga, y no se aísla al contenedor del modelo. Usar ModelLatency sin dimensiones no es específico para una variante y monitorear el Minimum no detectaría aumentos en el tiempo de inferencia, sino disminuciones.