Adverto evaluiert SageMaker Serverless Inference im Vergleich zu einem Always-on-Echtzeit-Endpunkt für einen Batch von Modellen mit stark schwankendem Traffic (viele Minuten ohne Anfragen, gelegentliche Bursts). Welche Aussage über das Kostenmodell von Serverless Inference im Vergleich zu einem Always-on-Echtzeit-Endpunkt ist am zutreffendsten, um die Kosten bei dieser Arbeitslast zu minimieren?

Die korrekte Antwort ist, dass SageMaker Serverless Inference nach Aufrufen und Rechenzeit (GB-Sekunden) abgerechnet wird. Dies ist kostengünstiger für Workloads mit stark schwankendem Traffic und langen Leerlaufzeiten, da Sie nur für die tatsächliche Nutzung zahlen. Ein Always-on-Echtzeit-Endpunkt wird hingegen pro Instanzstunde abgerechnet, unabhängig davon, ob Anfragen verarbeitet werden oder nicht, was bei geringer Auslastung zu unnötigen Kosten führt. Die anderen Optionen sind falsch, da Serverless Inference keine feste Monatsgebühr hat, Always-on-Endpunkte auch im Leerlauf Kosten verursachen und die Preisgestaltung von Serverless Inference nicht identisch mit der Lambda-Preisgestaltung ist.