Ein Unternehmen muss ein benutzerdefiniert trainiertes Klassifizierungsmodell auf AWS bereitstellen, um Vorhersagen nahezu in Echtzeit und mit geringer Latenz bereitzustellen und unterschiedliche Anforderungsvolumen zu verarbeiten. Welche Bereitstellungsoption erfüllt diese Anforderungen?

Die Bereitstellung des Modells als Amazon SageMaker Echtzeit-Endpunkt mit konfigurierter automatischer Skalierung ist die beste Option. SageMaker Echtzeit-Endpunkte sind für Inferenz mit geringer Latenz konzipiert und können durch automatische Skalierung unterschiedliche Anforderungsvolumen effizient verarbeiten. Ein Amazon SageMaker Batch-Transformationsjob ist für die Verarbeitung großer Datenmengen im Batch-Modus gedacht und nicht für Echtzeit-Vorhersagen mit geringer Latenz geeignet. Das Hosten von Modelldateien in S3 und die Bereitstellung über API Gateway erfordert eine manuelle Implementierung der Inferenzlogik und Skalierung, was komplexer und weniger optimiert ist als SageMaker. Das Starten von EC2-Instanzen mit Deep Learning AMIs hinter einem Application Load Balancer bietet zwar Skalierbarkeit, erfordert aber einen höheren Verwaltungsaufwand für die Modellbereitstellung, Überwachung und Skalierung im Vergleich zu SageMaker, das diese Aufgaben abstrahiert.