Ein Unternehmen hat ein Modell, das auf einem SageMaker Echtzeit-Endpunkt bereitgestellt ist, und muss ein neues Modell bereitstellen. Bevor jedoch der gesamte Traffic umgeleitet wird, muss die Leistung des neuen Modells mit der des aktuellen Modells verglichen werden. Welcher Ansatz erreicht dies mit dem geringsten Betriebsaufwand?

Die Bereitstellung des neuen Modells als Shadow-Variante auf demselben Endpunkt ist die effizienteste Methode. SageMaker Endpunkte unterstützen A/B-Tests und Shadow-Tests nativ, indem sie es ermöglichen, mehrere Modellvarianten auf einem Endpunkt zu hosten und den Traffic nach konfigurierbaren Regeln aufzuteilen. Bei Shadow-Tests wird ein Teil des Live-Traffics an das neue Modell gesendet, ohne dass dessen Vorhersagen die Endbenutzer beeinflussen, was einen direkten Leistungsvergleich mit minimalem Betriebsaufwand ermöglicht. Separate Endpunkte erfordern manuelle Traffic-Verwaltung und erhöhen den Aufwand. CloudFront ist ein CDN und nicht primär für das Routing von ML-Inferenz-Traffic konzipiert. Lambda-Funktionen würden eine komplexe, benutzerdefinierte Logik erfordern, die den Betriebsaufwand unnötig erhöht.