Un'azienda ha prodotto due modelli: il Modello A rileva le transazioni fraudolente e verrà richiamato per ogni transazione; il Modello B prevede le vendite del mese successivo e verrà richiamato una volta al mese. Entrambi devono essere distribuiti in produzione utilizzando SageMaker AI. Quale approccio di hosting dovrebbe utilizzare l'azienda?

Il Modello A richiede una risposta immediata per ogni transazione, rendendo un endpoint in tempo reale la scelta appropriata. Gli endpoint in tempo reale sono ottimizzati per inferenze a bassa latenza e ad alto throughput. Il Modello B prevede le vendite mensili, il che significa che l'inferenza non richiede una risposta immediata e viene eseguita su un set di dati completo una volta al mese. La trasformazione batch è ideale per questo scenario, poiché è efficiente per grandi volumi di dati dove la latenza non è critica. Ospitare entrambi i modelli in un singolo container potrebbe sovraccaricare le risorse per il Modello A o ritardare il Modello B. Ospitare il Modello A su un endpoint asincrono introdurrebbe una latenza inaccettabile per il rilevamento delle frodi. Utilizzare la trasformazione batch per il Modello A non soddisferebbe il requisito di risposta in tempo reale.