Ein Online-Lieferdienst hat ein XGBoost-Modell pro Stadt, das in S3 gespeichert ist, und hostet derzeit jedes Modell auf einer eigenen EC2-Instance (5 % Auslastung). Sie möchten, dass die Webanwendung in Echtzeit den schnellsten Kurier für bestehende und neue Benutzer auswählt und gleichzeitig den Betriebsaufwand minimiert. Welche Lösung erreicht dies mit dem geringsten Verwaltungsaufwand?

Die korrekte Lösung minimiert den Verwaltungsaufwand, indem sie einen SageMaker Multi-Model-Endpunkt verwendet. Dieser Endpunkt kann Hunderte oder Tausende von Modellen hosten, die dynamisch aus S3 geladen werden, was die Notwendigkeit separater EC2-Instanzen oder SageMaker-Endpunkte pro Stadt eliminiert. Die Skalierung und das Modell-Management werden von SageMaker übernommen. Die Option mit dem SageMaker-Notebook und Batch-Transformation ist ineffizient für Echtzeitvorhersagen und erfordert, dass der Webclient S3-Dateien liest. Die Konsolidierung auf eine einzelne EC2-Instanz mit einem Modellserver würde die Skalierbarkeit und Verfügbarkeit beeinträchtigen und erfordert mehr Verwaltungsaufwand. Separate SageMaker-Endpunkte pro Stadt würden zu hohen Kosten und hohem Verwaltungsaufwand führen, da jeder Endpunkt Ressourcen benötigt, auch wenn er nicht genutzt wird.