Bir üreticinin, makine başına 200'e kadar sensör okumasını analiz eden modellerden neredeyse gerçek zamanlı tahminlere ihtiyacı var, ancak bazı fabrikalarda internet bağlantısı güvenilir değil. Hangi dağıtım mimarisi, her fabrikada neredeyse gerçek zamanlı çıkarımı en iyi şekilde destekler?

Doğru cevap, modeli her fabrikadaki AWS IoT Greengrass'a dağıtmak ve çıkarımları sensör verileri üzerinde yerel olarak çalıştırmaktır. Bunun nedeni, internet bağlantısının güvenilir olmadığı durumlarda bile neredeyse gerçek zamanlı tahminlere olan ihtiyacı karşılamasıdır. AWS IoT Greengrass, modelleri uç cihazlarda yerel olarak çalıştırarak gecikmeyi azaltır ve bağlantı kesintilerinden etkilenmez. Diğer seçenekler bu gereksinimleri karşılamaz: Modeli Amazon SageMaker'da barındırmak ve tüm sensör verilerini SageMaker endpoint'ine göndermek, güvenilir olmayan internet bağlantısı nedeniyle gecikmeye ve kesintilere yol açacaktır. Günlük SageMaker batch transform işleri çalıştırmak, "neredeyse gerçek zamanlı" tahmin gereksinimini karşılamaz; bu, toplu işlem için uygundur. Modeli SageMaker'da barındırmak ve DynamoDB üzerinden Lambda ile endpoint'i çağırmak, yine internet bağlantısına bağımlı olacak ve gecikme sorunları yaratacaktır.