Ein Geodatenunternehmen speichert täglich Satellitenbilder in Amazon S3 zur Schiffserkennung. Die Trainingsdaten wachsen inkrementell, und ein SageMaker-Trainingsjob, der eine einzelne ml.p2.xlarge-Instanz im Dateieingabemodus verwendet, schlägt seit Kurzem aufgrund von unzureichendem lokalem Speicher fehl; die einzige Änderung war mehr Daten. Die Lösung muss das Speicherproblem beheben, gleichzeitig die Leistung optimieren und die Trainingskosten minimieren. Welche Änderung sollte der ML-Spezialist vornehmen?

Der Pipe-Eingabemodus in Amazon SageMaker streamt Daten direkt aus S3 in den Trainingscontainer, anstatt sie zuerst vollständig auf den lokalen Speicher der Instanz herunterzuladen. Dies löst das Problem des unzureichenden lokalen Speichers, da die Daten nicht mehr vollständig zwischengespeichert werden müssen. Da die Daten während des Trainings gestreamt werden, kann dies auch die Trainingsleistung verbessern, indem Wartezeiten für den Daten-Download reduziert werden. Die Kosten werden minimiert, da keine größere oder zusätzliche Instanz benötigt wird. Die Verwendung von zwei ml.p2.xlarge-Instanzen würde die Kosten erhöhen und das Speicherproblem nicht unbedingt lösen, da jede Instanz immer noch versucht, die Daten lokal zu speichern. Eine ml.p3.2xlarge-Instanz ist teurer und hat möglicherweise nicht wesentlich mehr lokalen Speicher, um das Problem zu beheben. Amazon EFS ist ein Dateisystem, das zwar von mehreren Instanzen gemeinsam genutzt werden kann, aber nicht die primäre Methode für die Speicherung von Trainingsdaten in SageMaker ist und die Leistung im Vergleich zum direkten Streaming aus S3 beeinträchtigen könnte.