Uma equipe deseja executar várias versões de um modelo de previsão em produção a longo prazo, controlar a proporção de inferências atendidas por cada versão e minimizar o esforço de implementação. Qual solução melhor atende a essas necessidades?

A solução correta é hospedar os modelos no SageMaker e criar uma única configuração de endpoint com várias variantes de produção, ajustando os pesos das variantes para controlar o tráfego. Isso permite que a equipe execute várias versões do modelo em produção, controle a proporção de inferências atendidas por cada versão (testes A/B ou canário) e minimize o esforço de implementação, pois um único endpoint gerencia o roteamento. A opção de criar endpoints separados para cada modelo aumentaria a complexidade de gerenciamento e a lógica de roteamento no aplicativo cliente. A compilação com SageMaker Neo é para otimização de modelos para dispositivos específicos, não para controle de tráfego entre versões. O uso de transformação em lote (batch transform) é para inferências offline em grandes volumes de dados, não para inferências em tempo real com controle de tráfego dinâmico.