Uma empresa precisa implantar um modelo de classificação treinado personalizado na AWS para fornecer previsões de baixa latência, quase em tempo real, e para lidar com volumes de solicitação variáveis. Qual opção de implantação atende a esses requisitos?

A implantação do modelo como um endpoint em tempo real do Amazon SageMaker com auto scaling é a opção ideal. Endpoints em tempo real do SageMaker são projetados especificamente para inferência de baixa latência e quase em tempo real, e o auto scaling garante que o endpoint possa lidar com volumes de solicitação variáveis de forma eficiente, adicionando ou removendo instâncias conforme necessário. Executar um trabalho de transformação em lote do Amazon SageMaker não atende aos requisitos de baixa latência e tempo quase real, pois é para processamento assíncrono de grandes volumes de dados. Colocar o modelo na frente do Amazon API Gateway e hospedar arquivos no S3 não é uma solução completa para inferência de modelos e não oferece os recursos de gerenciamento de modelos e escalabilidade do SageMaker. Iniciar instâncias EC2 com AMIs de Deep Learning e um Application Load Balancer é uma solução que exige mais gerenciamento e configuração manual do que o SageMaker, que é um serviço gerenciado otimizado para implantação de ML.