Prima di rilasciare completamente un nuovo modello, un'azienda deve convalidarlo online sul 10% del traffico di produzione. Il modello è servito da un endpoint SageMaker dietro un Application Load Balancer. Quale configurazione fornisce la convalida online richiesta del 10% con il minor overhead operativo?

L'opzione corretta è aggiungere il nuovo modello come variante di produzione all'endpoint SageMaker esistente e impostare il peso della variante su 0.1, monitorando le invocazioni con Amazon CloudWatch. Questo approccio sfrutta la funzionalità di test A/B integrata di SageMaker, che consente di distribuire il traffico in base a pesi specifici tra diverse varianti di un modello sullo stesso endpoint. Impostare il peso su 0.1 (10%) indirizza il 10% del traffico al nuovo modello, minimizzando l'overhead operativo poiché non richiede la gestione di endpoint separati o configurazioni complesse dell'ALB. CloudWatch è lo strumento standard per il monitoraggio delle invocazioni e delle metriche di SageMaker. L'opzione che imposta il peso su 1 (100%) invierebbe tutto il traffico al nuovo modello, non il 10% richiesto. Creare un endpoint SageMaker separato per il nuovo modello aumenterebbe l'overhead operativo e non fornirebbe una soluzione integrata per la distribuzione del traffico percentuale. Configurare l'ALB per inoltrare il 10% del traffico sarebbe più complesso da gestire e AWS CloudTrail non è lo strumento primario per il monitoraggio delle invocazioni in tempo reale, ma piuttosto per il logging delle attività dell'API.