Un endpoint SageMaker di produzione esegue la versione del modello v1. Una nuova versione v2 deve essere testata in produzione con un rischio minimo e senza interrompere il traffico live. Qual è l'approccio migliore per convalidare v2 prima di effettuare lo switch?

L'opzione corretta descrive un test A/B shadow, che è il metodo più sicuro per convalidare una nuova versione del modello in produzione senza alcun impatto sugli utenti. La variante shadow riceve una copia del 100% delle richieste, ma le risposte non vengono restituite all'utente finale. Questo permette di valutare le prestazioni di v2 con dati di produzione reali senza rischi. Le altre opzioni che prevedono l'instradamento di una percentuale di traffico reale (1% o 10%) a v2 introducono un rischio per l'utente, poiché v2 potrebbe non funzionare come previsto. L'opzione di distribuire v2 su un nuovo endpoint e inviare il 100% dell'input tramite uno script non è un test di produzione reale con traffico live e potrebbe non catturare tutti gli scenari.