Bir şirket, SageMaker endpoint'i üzerinde üretim çıkarımı (production inference) için bir model dağıtacak. Tipik istek yükleri (request payloads) 100 MB ile 300 MB arasında değişiyor ve her isteğin 60 dakika içinde tamamlanması gerekiyor. Hangi SageMaker çıkarım seçeneği kullanılmalıdır?

Asenkron çıkarım, büyük istek yükleri (100 MB - 300 MB) ve uzun işlem süreleri (60 dakikaya kadar) için en uygun SageMaker çıkarım seçeneğidir. İstekleri bir sıraya alır ve tamamlandığında sonuçları depolar, bu da istemcinin yanıtı beklemesini gerektirmez. Sunucusuz çıkarım ve gerçek zamanlı çıkarım, daha küçük yükler ve daha düşük gecikme süresi gerektiren senaryolar için tasarlanmıştır. Yük boyutları ve işlem süreleri bu seçeneklerin sınırlarını aşar. Batch transform ise büyük veri kümeleri üzerinde toplu işlem yapmak için kullanılır, tekil isteklerin işlenmesi için uygun değildir.