SmartRetail slaat tientallen inferentiemodellen op in een S3-modelopslag en gebruikt een SageMaker multi-model endpoint op een ml.m5.xlarge-instantie om deze te hosten. Een ontwikkelaar moet een specifiek model met de naam retail-v3-2025.tar.gz aanroepen vanaf het multi-model endpoint met behulp van de SageMaker runtime API. Welke aanroepmethode zal dat specifieke model laden en uitvoeren op het moment van de aanvraag?

De correcte methode om een specifiek model aan te roepen binnen een SageMaker multi-model endpoint is door de TargetModel-parameter te gebruiken in de InvokeEndpoint API-aanroep, of door de HTTP-header X-Amzn-SageMaker-Target-Model in te stellen met de naam van het model (bijv. retail-v3-2025.tar.gz). De multi-model container zal dan dit specifieke model laden en uitvoeren. De optie om ModelName='retail-v3-2025' te gebruiken is onjuist omdat ModelName geen geldige parameter is voor het selecteren van een specifiek model binnen een multi-model endpoint. Het plaatsen van de modelnaam in de Content-Type-header is ook onjuist, aangezien deze header bedoeld is om het formaat van de invoerdata aan te geven, niet de modelselectie. Het aanmaken van een nieuw single-model endpoint voor elk model is inefficiënt en druist in tegen het doel van een multi-model endpoint, dat juist is ontworpen om meerdere modellen op één instantie te hosten.