Ein Team möchte mehrere Versionen eines Vorhersagemodells langfristig in der Produktion betreiben, den Anteil der von jeder Version bereitgestellten Inferenzen steuern und den Implementierungsaufwand minimieren. Welche Lösung erfüllt diese Anforderungen am besten?

Die Erstellung einer einzelnen Endpunktkonfiguration mit mehreren Produktionsvarianten in SageMaker ist die beste Lösung. Diese Methode ermöglicht es, mehrere Modellversionen hinter einem einzigen Endpunkt zu betreiben und den Datenverkehr zu jeder Version über Variantengewichte zu steuern. Dies ist ideal für A/B-Tests, Canary-Deployments oder das schrittweise Rollout neuer Modelle, während der Implementierungsaufwand minimiert wird. Separate Endpunkte für jedes Modell zu erstellen, würde den Verwaltungsaufwand erhöhen und die Steuerung des Datenverkehrs erschweren. SageMaker Neo ist für die Optimierung von Modellen für Edge-Geräte gedacht, nicht für die Steuerung des Datenverkehrs zwischen mehreren Modellversionen in der Produktion. Die Batch-Transformation ist für die Verarbeitung großer Datenmengen offline konzipiert, nicht für Echtzeit-Inferenzen mit variabler Datenverkehrssteuerung.