Un'azienda implementerà un modello per l'inferenza di produzione su un endpoint SageMaker. I payload delle richieste tipici sono compresi tra 100 MB e 300 MB e ogni richiesta deve essere completata entro 60 minuti. Quale opzione di inferenza di SageMaker dovrebbe essere utilizzata?

L'inferenza asincrona di SageMaker è la scelta migliore perché è progettata per gestire payload di grandi dimensioni (fino a 1 GB) e tempi di elaborazione lunghi (fino a 1 ora), che corrispondono ai requisiti di 100-300 MB e 60 minuti. L'inferenza serverless non supporta payload così grandi. L'inferenza in tempo reale ha limiti di dimensione del payload e di latenza molto più stringenti, non adatti a questi requisiti. La trasformazione batch è per l'elaborazione offline di set di dati completi, non per singole richieste di inferenza.