StreamSense voert wekelijks een hyperparameter-sweep uit die normaal gesproken $12.000 kost voor on-demand ml.p3.2xlarge-instances. Om de kosten te verlagen, hebben ze SageMaker managed spot training ingeschakeld en checkpointing en een max_wait_time geconfigureerd die 2x de trainingsduur is. Het kostenrapport voor de sweep toont aan dat de managed spot run $1.200 in rekening heeft gebracht. Welk maximale besparingspercentage ten opzichte van de oorspronkelijke on-demand kosten komt op basis van het gedrag van SageMaker managed spot het meest overeen met de potentiële besparingen van SageMaker managed spot training?

SageMaker managed spot training kan kosten aanzienlijk verlagen, vaak tot wel 90% vergeleken met on-demand instanties. Dit komt doordat het gebruikmaakt van ongebruikte EC2-capaciteit, die tegen een veel lagere prijs wordt aangeboden. De configuratie met checkpointing en een ruime maxwaittime (2x de trainingsduur) minimaliseert het risico op onderbrekingen en zorgt ervoor dat de training efficiënt kan worden hervat, waardoor de besparingen maximaal benut kunnen worden. De $1.200 kosten voor een taak die on-demand $12.000 zou kosten, vertegenwoordigen een besparing van 90%, wat perfect overeenkomt met de maximale potentiële besparingen van managed spot training. De andere opties onderschatten de maximale besparingsmogelijkheden van SageMaker managed spot training.