Ein Modell muss einmal pro Nacht ausgeführt werden, um die Aktienkurse des nächsten Tages vorherzusagen. Die Eingabe sind 3 MB, die an diesem Tag gesammelt wurden, und die Inferenz ist in weniger als 1 Minute abgeschlossen. Wie sollten Sie dieses Modell in Amazon SageMaker bereitstellen, um diese Anforderungen zu erfüllen?

Die korrekte Antwort ist die Verwendung eines Serverless-Inferenz-Endpunkts mit MaxConcurrency auf 1. Dies ist ideal für Modelle, die nur einmal täglich ausgeführt werden müssen, da Serverless-Endpunkte automatisch skalieren und nur für die tatsächliche Inferenzzeit Kosten verursachen. Da die Inferenz in weniger als einer Minute abgeschlossen ist und die Eingabedaten 3 MB betragen, sind die Ressourcenanforderungen gering, was gut zu einem Serverless-Ansatz passt. MaxConcurrency auf 1 stellt sicher, dass nur eine Inferenzanfrage gleichzeitig verarbeitet wird, was bei einer einzelnen täglichen Ausführung ausreichend ist. Ein Multi-Modell-Serverless-Endpunkt ist unnötig, da nur ein Modell bereitgestellt wird. Asynchrone Inferenz ist für Batch-Verarbeitung oder lange Inferenzzeiten gedacht, hier ist die Inferenz schnell. Ein Echtzeit-Endpunkt mit Autoscaling auf 0 ist eine Option, aber Serverless ist für sporadische Workloads kosteneffizienter und einfacher zu verwalten, da keine Instanzen manuell skaliert oder verwaltet werden müssen.