Müşteriler görselleri (her biri toplamda 50 MB'a kadar) yüklüyor ve bir ML modeli metinsel açıklamalar oluşturuyor. Görseller Amazon S3'te depolanıyor ve işlem, minimum operasyonel yük ile ölçeklenmelidir. Bu gereksinimleri en iyi karşılayan mimari hangisidir?

Amazon SageMaker Asynchronous Inference, büyük boyutlu girişler (50 MB'a kadar) ve uzun işlem süreleri için tasarlanmıştır, bu da görselden metne modeliniz için idealdir. Otomatik ölçeklendirme politikası sayesinde, operasyonel yük minimumda tutulurken talep arttıkça kaynaklar otomatik olarak sağlanır. S3'teki her görsel için doğrudan çağrılabilir olması, basit ve verimli bir entegrasyon sağlar. Diğer seçenekler neden uygun değil: SageMaker Batch Transform, genellikle önceden tanımlanmış bir veri kümesinin tamamını işlemek için kullanılır, tek tek görsellerin anlık işlenmesi için uygun değildir. Amazon EKS ve Karpenter, yüksek düzeyde özelleştirme ve kontrol sunsa da, bu senaryo için operasyonel yükü artırır ve SageMaker'ın sunduğu yönetilen hizmet avantajlarını ortadan kaldırır. AWS Batch ve Amazon ECS, toplu işlem senaryoları için güçlüdür ancak gerçek zamanlıya yakın tekil görsel işleme ve otomatik ölçeklendirme gereksinimleri için SageMaker Asynchronous Inference kadar optimize değildir.