VideoAI przechowuje 40 TB surowych klatek wideo w S3 i trenuje na instancjach GPU, które mają tylko 1 TB pamięci masowej instancji. Ich pętla treningowa odczytuje zestaw danych sekwencyjnie przez kilka epok i może przesyłać strumieniowo rekordy z interfejsów zgodnych ze stdin. Jaki tryb wejścia SageMaker powinni wybrać i dlaczego?

Tryb Pipe (potokowy) jest idealny, ponieważ zestaw danych (40 TB) jest znacznie większy niż pamięć instancji GPU (1 TB). Tryb Pipe umożliwia kontenerowi treningowemu strumieniowe przesyłanie danych bezpośrednio z S3, eliminując potrzebę pobierania całego zestawu danych na dysk lokalny. Jest to efektywne pamięciowo i czasowo, szczególnie gdy algorytm przetwarza dane sekwencyjnie, co jest zgodne z opisem problemu. Opcja z trybem File jest nieprawidłowa, ponieważ wymagałaby pobrania całego 40 TB zestawu danych na 1 TB pamięci instancji, co jest niemożliwe. SageMaker nie rozszerzy automatycznie dysku instancji w taki sposób, aby pomieścić tak dużą różnicę. Ustawienie EBSVolumeSize na 50 TB nie jest potrzebne w trybie Pipe, ponieważ dane są przesyłane strumieniowo, a nie przechowywane lokalnie między epokami. Montowanie S3 jako systemu plików POSIX nie jest standardową ani zalecaną metodą w SageMaker do obsługi dużych zestawów danych i nie eliminuje narzutów transferu danych ani zużycia dysku w sposób, który rozwiązałby problem z pamięcią instancji.