Um modelo baseado em CPU fornecerá previsões em tempo real com tráfego intermitente durante o horário comercial e períodos ociosos fora do horário comercial. Qual opção de hospedagem do SageMaker é a mais econômica para esse padrão?

A inferência sem servidor do SageMaker (SageMaker Serverless Inference) é a opção mais econômica para tráfego intermitente e períodos ociosos, pois você paga apenas pela capacidade de computação usada para processar solicitações de inferência, e não por instâncias ociosas. A simultaneidade provisionada garante que o modelo esteja pronto para responder rapidamente durante os picos de tráfego no horário comercial, sem incorrer em custos de instâncias ociosas fora desse período. A implantação em um endpoint em tempo real com auto scaling baseado em agendamento (opção 1) ainda incorreria em custos para instâncias mínimas mesmo durante períodos ociosos. A inferência assíncrona (opção 3) não é adequada para previsões em tempo real. Ativar e desativar um endpoint em tempo real com uma função Lambda (opção 4) introduziria latência significativa para o "cold start" e não é a forma ideal de gerenciar custos para este padrão.