Ein bereitgestelltes Modell, das auf einem genetischen Algorithmus basiert, benötigt möglicherweise mehrere Minuten, um eine Vorhersage zu treffen, und muss Anfragen verarbeiten, die bis zu 100 MB Daten umfassen. Welche Bereitstellungsoption minimiert den Betriebsaufwand und erfüllt gleichzeitig diese Anforderungen?

Ein Amazon SageMaker Asynchronous Inference Endpoint ist die beste Wahl, da er für Inferenzanfragen mit großen Payloads (bis zu 1 GB) und langer Verarbeitungszeit (bis zu 15 Minuten) optimiert ist. Dies minimiert den Betriebsaufwand, da SageMaker die Infrastruktur verwaltet. Amazon EC2-Instances mit Auto Scaling und Application Load Balancer erfordern mehr manuellen Betriebsaufwand. Ein SageMaker Real-Time Endpoint ist für niedrige Latenz und kleinere Payloads konzipiert und würde die Anforderungen an die Verarbeitungszeit und Payload-Größe nicht erfüllen. Amazon ECS auf EC2-Instances bietet zwar Flexibilität, erfordert aber einen höheren Betriebsaufwand im Vergleich zu SageMaker Asynchronous Inference.