Un'azienda ha un modello distribuito su un endpoint real-time di SageMaker e deve distribuire un nuovo modello, ma deve confrontare le prestazioni del nuovo modello con quelle del modello attuale prima di spostare tutto il traffico. Quale approccio raggiunge questo obiettivo con il minor sforzo operativo?

L'opzione corretta è distribuire il nuovo modello come variante shadow sullo stesso endpoint. SageMaker supporta la distribuzione di più varianti di modello su un singolo endpoint, consentendo di instradare una parte del traffico live (o tutto il traffico) a una variante "shadow" per il test A/B o per il confronto delle prestazioni senza influire sul modello di produzione principale. Questo approccio è il più efficiente in termini di sforzo operativo perché SageMaker gestisce l'infrastruttura e la distribuzione del traffico. Le altre opzioni richiedono uno sforzo operativo maggiore: Distribuire su un endpoint separato e dividere manualmente il traffico richiede la gestione di due endpoint e la logica di routing esterna. Usare CloudFront per dividere il traffico non è lo scopo principale di CloudFront per il routing del traffico di inferenza di SageMaker e aggiunge complessità. Usare le funzioni Lambda con logica personalizzata introduce un ulteriore livello di astrazione e gestione, aumentando lo sforzo operativo e la potenziale latenza.