Um modelo de previsão personalizado deve ser hospedado; a carga de trabalho é previsível e sustentada durante a mesma janela de 2 horas a cada dia, com muitas invocações exigindo respostas rápidas. A empresa deseja que a AWS gerencie a infraestrutura e o autoescalonamento. Qual opção de hospedagem atende a esses requisitos?

A Inferência Serverless do Amazon SageMaker com simultaneidade provisionada é a melhor opção. Ela oferece uma solução totalmente gerenciada que escala automaticamente para lidar com cargas de trabalho previsíveis e sustentadas, garantindo respostas rápidas sem a necessidade de gerenciar a infraestrutura subjacente. A simultaneidade provisionada pré-aquece as instâncias, eliminando latências de inicialização para invocações rápidas. Agendar um trabalho de transformação em lote do Amazon SageMaker acionado pelo AWS Lambda não é adequado para respostas rápidas, pois é projetado para processamento assíncrono e em lote. Usar um grupo do EC2 Auto Scaling com escalonamento agendado requer gerenciamento manual da infraestrutura e não é otimizado para inferência de ML. Executar o modelo em um cluster do Amazon EKS no EC2 com autoescalonamento de pods oferece flexibilidade, mas exige mais gerenciamento de infraestrutura e orquestração do que a Inferência Serverless do SageMaker.