Ein Team für autonome Fahrzeuge nutzt Transfer Learning mit PyTorch und dem SageMaker SDK. Sie müssen die Inferenzzeit für den Einsatz im selbstfahrenden Bereich mit geringer Latenz reduzieren. Welchen Prozess sollten sie verwenden, um die Inferenzleistung des Modells zu analysieren und zu verbessern?

Die korrekte Antwort ist die Verwendung von SageMaker Debugger zur Analyse von Trainingsartefakten wie Gewichten, Gradienten, Biases und Aktivierungen. Basierend auf diesen Erkenntnissen können Filter-Ränge berechnet und Filter mit niedrigem Rang beschnitten werden. Dies ist eine Form des Modell-Prunings, die darauf abzielt, die Modellgröße und damit die Inferenzzeit zu reduzieren, ohne die Leistung wesentlich zu beeinträchtigen. Anschließend wird das Modell mit den neuen, reduzierten Gewichten neu trainiert. Falsche Optionen: Amazon CloudWatch-Algorithmusmetriken bieten keine direkten Mechanismen zur Berechnung von Filter-Rängen oder zum Beschneiden von Filtern für die Modelloptimierung. Das Anpassen von Hyperparametern allein nach der Überprüfung mit SageMaker Debugger ist nicht der effizienteste Weg, um die Inferenzzeit durch Modellkomprimierung zu reduzieren. Es konzentriert sich eher auf die Trainingsleistung. SageMaker Model Monitor dient der Überwachung von Modellleistungsmetriken nach der Bereitstellung und nicht der Analyse von internen Trainingsartefakten zur Modelloptimierung vor der Bereitstellung.