Um endpoint de produção do SageMaker executa a versão v1 do modelo. Uma nova versão v2 deve ser testada em produção com risco mínimo e sem interromper o tráfego ao vivo. Qual é a melhor abordagem para validar a v2 antes de fazer a transição?

A abordagem de variante shadow (shadow deployment) é a mais segura para testar um novo modelo (v2) em produção sem impactar o tráfego ao vivo. Ela permite que 100% das solicitações de inferência sejam copiadas para a v2, mas apenas as respostas da v1 são retornadas aos usuários. Isso possibilita comparar o desempenho da v2 com a v1 usando dados de produção reais, sem risco de interrupção ou degradação da experiência do usuário. As saídas da v2 podem ser armazenadas no S3 para análise offline. As opções que direcionam uma porcentagem do tráfego para v2 (1% ou 10%) introduzem risco, pois a v2 pode ter um desempenho inferior e afetar diretamente alguns usuários. A opção de implantar a v2 em um novo endpoint e enviar 100% da entrada para ela requer um script adicional e não é uma prática padrão de teste sem risco no SageMaker.