Klienci przesyłają obrazy (każdy o rozmiarze do 50 MB), a model ML generuje opisy tekstowe. Obrazy są przechowywane w Amazon S3, a przetwarzanie musi skalować się przy minimalnym narzucie operacyjnym. Która architektura najlepiej spełnia te wymagania?

Asynchroniczne wnioskowanie Amazon SageMaker jest idealne do przetwarzania dużych ładunków, takich jak obrazy do 50 MB, bez konieczności natychmiastowej odpowiedzi. Pozwala na umieszczenie żądań w kolejce i przetworzenie ich, gdy zasoby są dostępne, co jest efektywne kosztowo i operacyjnie. Polityka autoskalowania zapewnia, że zasoby są dynamicznie dostosowywane do obciążenia, minimalizując narzut operacyjny. Inne opcje są mniej odpowiednie: Transformacja wsadowa SageMaker jest przeznaczona do przetwarzania wszystkich danych naraz, a nie do pojedynczych obrazów przesyłanych przez klientów. Klaster Amazon EKS z Karpenterem to złożone rozwiązanie, które wymaga znacznie większego narzutu operacyjnego niż zarządzane usługi SageMaker. AWS Batch z ECS jest dobrym rozwiązaniem dla zadań wsadowych, ale asynchroniczne wnioskowanie SageMaker jest bardziej zoptymalizowane pod kątem wnioskowania ML i oferuje prostszą integrację.