Un modelo de ML puntuará a los clientes en una aplicación en línea para determinar qué producto mostrar. El ingeniero necesita minimizar la latencia de respuesta. ¿Cómo se debe implementar el modelo en SageMaker para cumplir con los requisitos de baja latencia?

Un punto de conexión de inferencia en tiempo real es la opción correcta porque está diseñado específicamente para casos de uso que requieren respuestas inmediatas y de baja latencia, como la puntuación de clientes en una aplicación en línea. Las transformaciones por lotes (batch transform) son adecuadas para procesar grandes volúmenes de datos de una sola vez, no para inferencia interactiva. Los puntos de conexión de inferencia sin servidor (serverless inference endpoint) pueden tener un "cold start" que introduce latencia variable, lo que no es ideal para requisitos estrictos de baja latencia. Los puntos de conexión de inferencia asíncronos (asynchronous inference endpoint) están diseñados para solicitudes que pueden tardar más en procesarse y no requieren una respuesta inmediata, lo que los hace inadecuados para este escenario.