SmartRetail speichert Dutzende von Inferenzmodellen in einem S3-Modellspeicher und verwendet einen SageMaker Multi-Model Endpoint auf einer ml.m5.xlarge-Instanz, um diese zu hosten. Ein Entwickler muss ein bestimmtes Modell namens retail-v3-2025.tar.gz vom Multi-Model Endpoint über die SageMaker-Laufzeit-API aufrufen. Welcher Aufrufansatz lädt und führt dieses spezifische Modell zur Anforderungszeit aus?

Die korrekte Methode zum Aufrufen eines spezifischen Modells in einem SageMaker Multi-Model Endpoint ist die Verwendung des TargetModel-Parameters in der InvokeEndpoint-API oder des HTTP-Headers X-Amzn-SageMaker-Target-Model. Der Multi-Model-Container lädt dann das angegebene Modell aus dem S3-Modellspeicher des Endpoints und führt es aus. Die Option, InvokeEndpoint mit ModelName='retail-v3-2025' aufzurufen, ist falsch, da ModelName nicht zur Auswahl spezifischer Modelle innerhalb eines Multi-Model Endpoints dient. Das Platzieren des Artefaktnamens im Content-Type-Header ist ebenfalls inkorrekt, da der Content-Type-Header den Datentyp der Anforderungsnutzlast angibt, nicht das Zielmodell. Das Erstellen eines neuen Single-Model-Endpoints für jedes Modell ist ineffizient und widerspricht dem Zweck eines Multi-Model Endpoints, der darauf ausgelegt ist, mehrere Modelle auf einer einzigen Instanz zu hosten und zu verwalten.