Você deseja rotear uma pequena parte do tráfego para uma nova versão do modelo para usuários de visualização, avaliá-la e, em seguida, gradualmente mudar todo o tráfego para o novo modelo em um período fixo com sobrecarga operacional mínima. Qual abordagem do SageMaker realiza isso com o menor trabalho operacional?

A opção correta é usar UpdateEndpointWeightsAndCapacities. Esta abordagem permite que você adicione uma nova variante de produção a um endpoint existente com um DesiredWeight de 0, garantindo que nenhum tráfego seja roteado para ela inicialmente. Para usuários de visualização, você pode direcionar explicitamente a nova variante usando o parâmetro TargetVariant na chamada InvokeEndpoint. À medida que a confiança na nova versão aumenta, você pode aumentar gradualmente o DesiredWeight da nova variante e diminuir o da variante antiga, realizando uma implantação azul/verde ou canário com sobrecarga operacional mínima, pois tudo é gerenciado dentro de um único endpoint do SageMaker. As outras opções são menos eficientes: Criar um novo EndpointConfig e atualizar o endpoint é uma operação mais pesada e não permite o roteamento TargetVariant para usuários de visualização da mesma forma que UpdateEndpointWeightsAndCapacities para um endpoint existente. Usar dois endpoints separados com um Application Load Balancer adiciona complexidade e sobrecarga de gerenciamento externo ao SageMaker. Hospedar dois endpoints e usar o Route 53 também aumenta a complexidade e não oferece a mesma granularidade de controle de tráfego dentro de um único endpoint do SageMaker.