Uma companhia aérea executa um endpoint em tempo real do SageMaker para ajustar os preços das passagens com base na demanda. Implantações anteriores falharam em escalar rapidamente o suficiente quando o tráfego do site aumentou. O engenheiro de ML deve configurar o auto scaling de rastreamento de destino para responder rapidamente a picos repentinos de tráfego. Qual configuração será a mais responsiva?

A opção correta é usar a métrica SageMaker InvocationsPerInstance com intervalos de alta resolução de 10 segundos e manter o tempo de espera de scale-in padrão de 300 segundos. A métrica InvocationsPerInstance é a mais relevante para ajustar a capacidade com base na demanda de inferência. Usar intervalos de alta resolução (10 segundos) permite que o auto scaling reaja mais rapidamente a picos de tráfego, pois os dados são coletados e avaliados com maior frequência. Manter o tempo de espera de scale-in padrão de 300 segundos é geralmente adequado, pois um tempo muito longo pode atrasar a redução de recursos, enquanto um tempo muito curto pode levar a oscilações desnecessárias. As outras opções são menos responsivas devido a intervalos de resolução mais longos ou tempos de espera de scale-in excessivamente longos, que atrasariam a adaptação da capacidade.