Um site de e-commerce hospeda um modelo de recomendação de produtos TensorFlow em um endpoint do SageMaker usando três instâncias otimizadas para computação para lidar com o pico de tráfego esperado. No início de cada mês, os tempos de resposta aumentam e alguns usuários veem erros. A maior parte do tráfego ocorre nos dias úteis, das 8h às 18h, em um único fuso horário. Quais duas ações corrigem o problema de forma mais eficaz, minimizando os custos? (Escolha duas.)

A habilitação de aceleradores Amazon Elastic Inference (EI) para o endpoint é eficaz porque os aceleradores EI podem melhorar significativamente o desempenho da inferência de modelos de aprendizado de máquina, especialmente para modelos grandes como os de recomendação, a um custo menor do que o uso de instâncias de GPU completas. Isso ajuda a reduzir os tempos de resposta durante picos de tráfego. Configurar o endpoint para autoescalar com base na métrica InvocationsPerInstance é crucial. Como o tráfego é previsível e ocorre em horários específicos, o autoescalonamento pode adicionar ou remover instâncias automaticamente para lidar com a demanda, garantindo que haja recursos suficientes durante os picos e otimizando custos durante os períodos de baixo tráfego. Criar uma nova configuração de endpoint com duas variantes de produção não resolve diretamente o problema de desempenho ou escalabilidade para picos de tráfego. Implantar um segundo pool de instâncias para implantação blue/green é para atualizações de modelo sem tempo de inatividade, não para escalabilidade de tráfego. Reconfigurar o endpoint para usar tipos de instância burstable não é ideal para cargas de trabalho de inferência de ML que exigem desempenho consistente durante picos de tráfego, pois o desempenho burstable é limitado.