Você precisa hospedar um modelo treinado que recebe uma taxa de solicitação irregular durante o dia. A hospedagem deve escalar para atender ao pico de demanda, mas minimizar o custo quando ociosa. Qual abordagem de hospedagem atende a essas restrições?

A opção correta é implantar o modelo em um endpoint do Amazon SageMaker e configurar políticas de autoescalonamento baseadas em métricas do CloudWatch. O SageMaker Endpoints oferece escalabilidade automática nativa, permitindo que o número de instâncias seja ajustado dinamicamente para lidar com picos de demanda e reduzir para zero (ou um mínimo configurado) quando ocioso, minimizando custos. A implementação de funções AWS Lambda com concorrência fixa não é ideal, pois a concorrência fixa não permite a escalabilidade dinâmica necessária para taxas de solicitação irregulares. Implantar o modelo em um cluster Amazon ECS no AWS Fargate com um número estático de tarefas dimensionadas para a carga de pico resultaria em custos elevados durante períodos de baixa demanda, pois as tarefas estariam sempre ativas. Hospedar várias cópias do modelo atrás de um Application Load Balancer, implantando-as em um endpoint do SageMaker, é redundante e não aborda diretamente a minimização de custos quando ocioso, a menos que o autoescalonamento do SageMaker seja configurado.