Ein SageMaker-Produktions-Endpoint führt Modellversion v1 aus. Eine neue Version v2 muss in der Produktion mit minimalem Risiko und ohne Unterbrechung des Live-Traffics getestet werden. Welcher Ansatz ist der beste, um v2 vor der Umstellung zu validieren?
Wählen Sie eine Antwort
Tippen Sie auf eine Option, um Ihre Antwort zu überprüfen.
Richtige Antwort: Stellen Sie v2 als Shadow-Variante bereit, die eine Kopie von 100 % der Inferenzanfragen erhält (keine Auswirkungen auf den Benutzer), sammeln Sie die v2-Ausgaben in S3 zur Auswertung und befördern Sie v2 in die Produktion, wenn die Ergebnisse akzeptabel sind..
Warum dies die Antwort ist
Die Bereitstellung von v2 als Shadow-Variante ist die beste Methode, da sie es ermöglicht, die neue Modellversion mit 100 % des Live-Produktions-Traffics zu testen, ohne die Benutzererfahrung zu beeinträchtigen. Die Shadow-Variante empfängt eine Kopie jeder Inferenzanfrage, verarbeitet sie und speichert die Ergebnisse. Dies ermöglicht einen direkten Vergleich der Leistung von v1 und v2 unter realen Bedingungen, bevor v2 den Live-Traffic bedient. Die anderen Optionen beinhalten das Weiterleiten eines Teils des Live-Traffics an v2, was ein höheres Risiko für Unterbrechungen oder schlechte Benutzererfahrungen birgt, falls v2 nicht wie erwartet funktioniert. Ein neuer Endpunkt mit 100 % der Eingaben ist ebenfalls riskant, da er den Live-Traffic direkt beeinflusst.
Bestehen Sie Ihre Prüfung – ohne endlose Antwortsuche
Erhalten Sie jede verifizierte Frage und Erklärung für diese Prüfung an einem Ort und sparen Sie Stunden der Vorbereitung. Über 1.000 Zertifizierungen · Über 20 Sprachen · Kostenloser Start.
Bestehen Sie Ihre Prüfung schneller → Keine Karte erforderlich