Un modelo basado en CPU servirá predicciones en tiempo real con tráfico intermitente durante el horario comercial y períodos de inactividad fuera de este horario. ¿Qué opción de hosting de SageMaker es la más rentable para este patrón?

La inferencia sin servidor de SageMaker (Serverless Inference) es la opción más rentable para cargas de trabajo intermitentes porque escala automáticamente a cero cuando no hay tráfico, eliminando costos por recursos inactivos. La concurrencia provisionada permite precalentar instancias para manejar picos de tráfico esperados durante el horario comercial sin latencia. Un endpoint en tiempo real con auto scaling basado en programación no escala a cero y incurre en costos por instancias mínimas incluso fuera del horario. La inferencia asíncrona no es adecuada para predicciones en tiempo real. Activar un endpoint en tiempo real con Lambda es una solución compleja y menos eficiente que Serverless Inference para este patrón.