Een bedrijf traint dagelijks een CNN-beeldmodel in File mode op een enkele On-Demand EC2-instantie met één epoch. Ze voegen dagelijks ongeveer 10.000 nieuwe afbeeldingen toe en willen de training versnellen en de kosten verlagen zonder de code aan te passen. Welke wijziging zal dat doel het beste bereiken?

De beste oplossing is het gebruik van Spot Instances in combinatie met model checkpointing. Spot Instances zijn aanzienlijk goedkoper dan On-Demand instanties, wat de kosten verlaagt. Omdat Spot Instances onderbroken kunnen worden, is checkpointing essentieel om de voortgang van de training op te slaan en de training te kunnen hervatten na een onderbreking, wat de training versnelt door herhaling te voorkomen. Het overschakelen naar Pipe mode of FastFile mode zou een aanpassing van de code vereisen, wat indruist tegen de eis om de code niet aan te passen. Alleen het vervangen door Spot Instances zonder checkpointing zou leiden tot significant tijdverlies bij onderbrekingen, wat de training niet versnelt.