Adverto está evaluando SageMaker Serverless Inference frente a un endpoint en tiempo real siempre activo para un lote de modelos con tráfico muy irregular (muchos minutos sin solicitudes, ráfagas ocasionales). ¿Qué afirmación sobre el modelo de costos de Serverless Inference frente a un endpoint en tiempo real siempre activo es más precisa para minimizar el costo en esta carga de trabajo?

La inferencia sin servidor (Serverless Inference) es ideal para cargas de trabajo con tráfico irregular porque solo se paga por las invocaciones y la duración del cómputo (GB-segundos) cuando el endpoint está activo. Un endpoint en tiempo real siempre activo (always-on real-time endpoint) se factura por hora de instancia, incluso cuando no recibe solicitudes, lo que lo hace más costoso para modelos con largos períodos de inactividad. La opción de tarifa mensual fija es incorrecta, ya que Serverless Inference no tiene una tarifa base fija. La afirmación de que los endpoints en tiempo real no incurren en cargos cuando están inactivos es falsa; se facturan por la instancia subyacente. Finalmente, aunque Serverless Inference comparte similitudes con Lambda, sus modelos de precios no son idénticos y no incluye un nivel gratuito de 1 millón de solicitudes.