Zespół ma skrypt szkoleniowy TensorFlow, który obecnie uruchamia lokalnie i chce go uruchomić w SageMakerze tak ekonomicznie, jak to tylko możliwe. Która konfiguracja estymatora TensorFlow najbardziej obniży koszty szkolenia, jednocześnie nadal używając istniejącego skryptu?

Poprawna odpowiedź łączy dwie strategie optymalizacji kosztów: SageMaker Training Compiler i zarządzane instancje spotowe. SageMaker Training Compiler optymalizuje wydajność szkolenia, redukując czas potrzebny na jego ukończenie, co bezpośrednio przekłada się na niższe koszty instancji. Użycie zarządzanych instancji spotowych (usespotinstances=True) pozwala na wykorzystanie niewykorzystanej mocy obliczeniowej AWS po znacznie niższej cenie niż instancje na żądanie. Połączenie tych dwóch metod zapewnia największe oszczędności przy zachowaniu istniejącego skryptu. Pozostałe opcje są mniej efektywne kosztowo: Sama aktywacja Training Compiler obniży koszty, ale nie tak bardzo jak w połączeniu z instancjami spotowymi. Modyfikacja skryptu do przetwarzania rozproszonego może być kosztowna pod względem czasu deweloperskiego i niekoniecznie obniży koszty tak skutecznie jak instancje spotowe, zwłaszcza jeśli model nie skaluje się liniowo. Ustawienie MaxWaitTimeInSeconds równe MaxRuntimeInSeconds jest związane z zarządzaniem przerwami w instancjach spotowych, ale samo w sobie nie obniża kosztów tak bezpośrednio jak włączenie spotów i kompilatora.