A Adverto está avaliando o SageMaker Serverless Inference versus um endpoint em tempo real sempre ativo para um lote de modelos com tráfego altamente variável (muitos minutos sem requisições, picos ocasionais). Qual afirmação sobre o modelo de custo do Serverless Inference versus um endpoint em tempo real sempre ativo é a mais precisa para minimizar custos nesta carga de trabalho?

A opção correta descreve com precisão o modelo de custo do SageMaker Serverless Inference e dos endpoints em tempo real. O Serverless Inference é otimizado para cargas de trabalho intermitentes e variáveis, pois você paga apenas pelas invocações e pelo tempo de computação real (GB-segundos), sem custo quando ocioso. Em contraste, um endpoint em tempo real sempre ativo é cobrado pela hora da instância, independentemente de estar processando requisições ou ocioso, tornando-o mais caro para tráfego variável com longos períodos de inatividade. A segunda opção está incorreta porque o Serverless Inference não tem uma taxa mensal fixa com invocações gratuitas ilimitadas; ele cobra por invocação e duração. A terceira opção está incorreta porque os endpoints em tempo real sempre ativos são cobrados pela hora da instância mesmo quando ociosos. A quarta opção está incorreta porque, embora o Serverless Inference utilize a tecnologia Lambda, seus modelos de cobrança não são idênticos, e não há um nível gratuito de 1 milhão de requisições para o Serverless Inference.