Un'azienda attualmente distribuisce il suo modello ML su 10 istanze accelerate Reserved e deve distribuire una nuova versione del modello a un endpoint real-time di Amazon SageMaker. La distribuzione deve continuare a utilizzare le 10 istanze originali per servire entrambe le versioni, includere un'istanza Reserved aggiuntiva da utilizzare durante la distribuzione ed eseguire la transizione senza tempi di inattività. Quale approccio di distribuzione soddisfa questi vincoli?

L'approccio di distribuzione rolling (o aggiornamento in sequenza) con una dimensione del batch di 1 è l'unico che soddisfa tutti i requisiti. Questo metodo sostituisce gradualmente le istanze una alla volta, consentendo di aggiungere l'istanza aggiuntiva e di mantenere le 10 istanze originali attive per servire entrambe le versioni durante la transizione, senza tempi di inattività. Le distribuzioni blue/green, anche con spostamento del traffico canary, richiedono un set di istanze completamente nuovo (green) per la nuova versione, raddoppiando il numero totale di istanze necessarie, il che non rispetta il vincolo di utilizzare le 10 istanze originali e una sola aggiuntiva. Il test shadow non è una strategia di distribuzione per la messa in produzione, ma un metodo per testare una nuova versione con traffico reale senza che influenzi le risposte del client.