Una empresa produjo dos modelos: el Modelo A detecta transacciones fraudulentas y se invocará en cada transacción; el Modelo B pronostica las ventas del próximo mes y se llamará una vez al mes. Ambos deben implementarse en producción utilizando SageMaker AI. ¿Qué enfoque de hosting debería usar la empresa?

El Modelo A requiere inferencia de baja latencia para cada transacción, lo que lo hace ideal para un endpoint en tiempo real de SageMaker. Un endpoint en tiempo real procesa solicitudes individuales con una respuesta rápida. El Modelo B, que pronostica ventas una vez al mes, es adecuado para la transformación por lotes (batch transform). La transformación por lotes es eficiente para procesar grandes volúmenes de datos de una sola vez, sin la necesidad de una latencia baja en tiempo real. Alojar ambos modelos en un solo contenedor no es óptimo porque tienen requisitos de latencia y frecuencia de invocación muy diferentes. Un endpoint asíncrono no es la mejor opción para el Modelo A, ya que introduce una latencia adicional innecesaria para una detección de fraude en tiempo real. Usar batch transform para el Modelo A sería demasiado lento para la detección de fraude por transacción.