Ein Empfehlungsmodell für eine E-Commerce-Website muss alle Client-Interaktionsdaten als Eingabe verwenden. Das Traffic-Volumen variiert im Laufe des Tages. Welcher SageMaker-Inferenz-Endpunkttyp ist für dieses Nutzungsmuster am kostengünstigsten?

Der Serverless Inference Endpoint ist am kostengünstigsten, da er automatisch skaliert und nur für die tatsächlich genutzte Inferenzzeit und die verarbeitete Datenmenge abgerechnet wird. Dies ist ideal für Workloads mit variierendem Datenverkehr, da keine Leerlaufkosten anfallen. Ein Real-time Inference Endpoint würde bei geringem Traffic unnötige Kosten verursachen, da er kontinuierlich läuft. Ein Asynchronous Inference Endpoint wäre eine Option, wenn die Latenz weniger kritisch wäre, aber für Empfehlungen ist oft eine schnellere Antwort wünschenswert. Ein Batch transform inference endpoint ist für die Verarbeitung großer, statischer Datensätze konzipiert und nicht für kontinuierliche Client-Interaktionen geeignet.