BrightDrive quiere reemplazar un endpoint de GPU en tiempo real de bajo tráfico con SageMaker Serverless Inference para ahorrar costos. Necesitan controlar la concurrencia y comprender las compensaciones de latencia. ¿Qué afirmación describe con mayor precisión cómo configurar serverless y las compensaciones en comparación con un endpoint persistente en tiempo real?

La opción correcta describe con precisión las características de SageMaker Serverless Inference. Se configura con MaxConcurrency y un tamaño de memoria, escalando desde cero, lo que puede causar latencia de arranque en frío. Es ideal para tráfico intermitente debido a su rentabilidad. Sin embargo, un endpoint persistente en tiempo real ofrece menor latencia y consistente, además de soportar GPU y capacidad aprovisionada, lo cual Serverless Inference no hace. La opción incorrecta sobre ProvisionedConcurrency es errónea porque Serverless Inference no soporta GPU ni ProvisionedConcurrency para eliminar arranques en frío. La afirmación de que Serverless Inference no tiene configuraciones de concurrencia y se limita a una invocación es falsa, ya que MaxConcurrency permite múltiples invocaciones. Finalmente, la opción que garantiza una latencia p99 idéntica y sin arranques en frío es incorrecta; los arranques en frío son inherentes al escalado desde cero de Serverless Inference y la latencia puede variar.