Uma equipe de e-commerce deseja implantar um novo modelo SageMaker por trás de sua API de recomendação em tempo real existente, sem alterar os aplicativos cliente, e quer testar o novo modelo em uma parte do tráfego de produção antes da implantação completa. Qual abordagem oferece isso com o menor overhead operacional?

A abordagem correta é usar variantes de produção do SageMaker no endpoint existente. Isso permite implantar o novo modelo como uma variante e rotear uma porcentagem do tráfego para ele, enquanto o modelo antigo continua a receber o restante. Essa funcionalidade é nativa do SageMaker, mantendo a mesma API para os aplicativos cliente e minimizando o overhead operacional, pois não exige a criação e gerenciamento de um balanceador de carga externo. Criar um novo endpoint e usar um ALB ou NLB adicionaria complexidade e overhead operacional, pois você precisaria gerenciar o balanceador de carga e suas regras de roteamento. O SageMaker Batch Transform não é adequado para cenários de inferência em tempo real, pois é projetado para processamento de grandes volumes de dados offline.