Un team desidera eseguire più versioni di un modello predittivo in produzione a lungo termine, controllare la proporzione di inferenze servite da ciascuna versione e minimizzare lo sforzo di implementazione. Quale soluzione soddisfa al meglio queste esigenze?

L'opzione corretta è la migliore perché SageMaker supporta nativamente la gestione di più versioni di un modello sullo stesso endpoint tramite varianti di produzione. È possibile assegnare pesi a ciascuna variante per controllare la percentuale di traffico instradata a ciascuna versione del modello, consentendo test A/B o implementazioni canary con uno sforzo minimo. Le altre opzioni sono meno efficienti o non soddisfano tutti i requisiti. Creare endpoint separati (opzione 1) aumenterebbe la complessità di gestione e l'overhead per l'applicazione chiamante. Compilare modelli con SageMaker Neo (opzione 3) è per l'ottimizzazione delle prestazioni su dispositivi specifici, non per la gestione di più versioni in produzione. L'uso della trasformazione batch (opzione 4) è per l'inferenza su grandi set di dati offline, non per l'inferenza in tempo reale con controllo del traffico.