Bir e-ticaret şirketi her gün gigabaytlarca müşteri verisi alıyor ve bir talep tahmin modeli eğitiyor. Günde bir kez çıkarım çalıştırmaları gerekiyor. Hangi çıkarım türü en uygunudur?

Doğru cevap toplu çıkarımdır (batch inference). Şirket her gün gigabaytlarca veri alıyor ve günde bir kez çıkarım çalıştırması gerekiyor. Bu senaryo, büyük veri hacimlerinin periyodik olarak işlendiği toplu çıkarım için idealdir. Talep tahmin modelleri genellikle anında yanıt gerektirmez, bu da toplu çıkarımı uygun maliyetli ve verimli bir çözüm haline getirir. Asenkron çıkarım (asynchronous inference) daha çok anında yanıt gerektirmeyen ancak belirli bir gecikme toleransı olan tekil istekler için kullanılır. Gerçek zamanlı çıkarım (real-time inference) milisaniyeler içinde yanıt gerektiren uygulamalar için uygundur, ancak bu senaryoda gereksizdir ve daha pahalıdır. Sunucusuz çıkarım (serverless inference) bir dağıtım modelidir ve çıkarım türü değildir; hem toplu hem de gerçek zamanlı çıkarım sunucusuz ortamlarda çalışabilir, ancak bu, çıkarımın kendisinin doğasını tanımlamaz.