Amazon SageMaker üzerindeki bir üretim ML işlem hattı, 1 GB'a kadar girdileri ve bir saate kadar çalışabilen işleri işler, ancak uygulama gerçek zamanlıya yakın yanıtlar gerektirir. Hangi SageMaker çıkarım seçeneği en uygunudur?

Asenkron çıkarım, büyük yük boyutları (1 GB'a kadar) ve uzun işlem süreleri (bir saate kadar) olan ancak gerçek zamanlıya yakın yanıtlar gerektiren senaryolar için idealdir. İstekler bir kuyruğa alınır ve işlendikten sonra sonuçlar döndürülür, bu da doğrudan gerçek zamanlı çıkarımın gecikme kısıtlamalarını aşar. Gerçek zamanlı çıkarım, daha düşük gecikme süresi gerektiren küçük yükler içindir. Sunucusuz çıkarım, değişken iş yükleri için otomatik ölçeklendirme sunar ancak genellikle daha küçük yükler ve daha kısa işlem süreleri için optimize edilmiştir. Toplu dönüştürme, büyük veri kümeleri üzerinde çevrimdışı, tek seferlik çıkarım için tasarlanmıştır ve gerçek zamanlıya yakın yanıtlar sağlamaz.