Ein E-Commerce-Team möchte ein neues SageMaker-Modell hinter seiner bestehenden Echtzeit-Empfehlungs-API bereitstellen, ohne die Client-Anwendungen zu ändern. Außerdem möchte es das neue Modell an einem Teil des Produktions-Traffics testen, bevor es vollständig ausgerollt wird. Welcher Ansatz bietet dies mit dem geringsten Betriebsaufwand?

Die Verwendung von SageMaker-Produktionsvarianten am bestehenden Endpunkt ist die effizienteste Lösung. SageMaker-Produktionsvarianten ermöglichen es Ihnen, mehrere Modelle unter einem einzigen Endpunkt zu hosten und den Traffic nach einem bestimmten Prozentsatz aufzuteilen. Dies erfüllt die Anforderungen, das neue Modell zu testen, ohne die Client-Anwendungen zu ändern, und bietet gleichzeitig den geringsten Betriebsaufwand, da SageMaker das Routing und die Skalierung verwaltet. Das Erstellen eines neuen Endpunkts mit einem ALB oder NLB würde zusätzliche Infrastruktur und Konfiguration erfordern und den Betriebsaufwand erhöhen. SageMaker Batch Transform ist für Offline-Inferenz großer Datensätze konzipiert, nicht für Echtzeit-Empfehlungen oder A/B-Tests von Modellen.