Fabryka przeprowadziła pilotaż, w ramach którego wnioskowanie na podstawie obrazów było realizowane przy użyciu AWS IoT Greengrass na przemysłowym komputerze PC, przesyłając obrazy do S3 i wywołując punkt końcowy SageMaker. Podczas skalowania do tysięcy maszyn przepustowość internetu została nasycona, a opóźnienia stały się niedopuszczalne. Jaki jest najbardziej opłacalny sposób na zmniejszenie opóźnień i rozwiązanie problemu z przepustowością sieci?

Prawidłowa odpowiedź rozwiązuje problem nasycenia przepustowości i opóźnień poprzez przeniesienie wnioskowania na brzeg sieci. Wdrożenie funkcji Lambda wnioskowania i modelu lokalnie na urządzeniu AWS IoT Greengrass eliminuje potrzebę przesyłania obrazów do chmury w celu wnioskowania, co drastycznie zmniejsza ruch sieciowy i opóźnienia. Wyniki są przekazywane lokalnie, co dodatkowo minimalizuje zależność od połączenia internetowego. Pozostałe opcje są mniej efektywne: Zwiększenie przepustowości Direct Connect (opcja A i C) jest kosztowne i może nie rozwiązać problemu opóźnień, jeśli wnioskowanie nadal odbywa się w chmurze. Zwiększanie instancji SageMaker nie rozwiązuje problemu przepustowości sieci na brzegu. Kompresja obrazów (opcja B) zmniejszy ruch, ale nadal wymaga przesyłania danych do chmury i dekompresji, co wprowadza dodatkowe opóźnienia i złożoność.