StreamSense führt wöchentlich einen Hyperparameter-Sweep durch, der normalerweise 12.000 $ für On-Demand-ml.p3.2xlarge-Instanzen kostet. Um die Kosten zu senken, haben sie SageMaker Managed Spot Training aktiviert und Checkpointing sowie eine max_wait_time konfiguriert, die doppelt so lang ist wie die Trainingsdauer. Der Kostenbericht für den Sweep zeigt, dass der Managed Spot Run mit 1.200 $ abgerechnet wurde. Basierend auf dem Verhalten von SageMaker Managed Spot, welcher maximale Einsparungsprozentsatz im Vergleich zu den ursprünglichen On-Demand-Kosten stimmt am besten mit den potenziellen Einsparungen von SageMaker Managed Spot Training überein?

Die korrekte Antwort ist, dass Managed Spot Training die Kosten um bis zu 90 % im Vergleich zu On-Demand-Instanzen senken kann. Dies wird durch das gegebene Szenario bestätigt, bei dem die Kosten von 12.000 $ auf 1.200 $ gesenkt wurden, was einer Einsparung von 90 % entspricht. SageMaker Managed Spot Training nutzt ungenutzte EC2-Kapazität und bietet erhebliche Rabatte, die oft bis zu 90 % der On-Demand-Preise betragen. Checkpointing und eine längere maxwaittime helfen, Unterbrechungen zu überstehen und die Effizienz der Einsparungen zu maximieren. Die anderen Optionen unterschätzen die potenziellen Einsparungen von Spot-Instanzen, die speziell für fehlertolerante Workloads wie Hyperparameter-Sweeps konzipiert sind.