Amazon AIF-C01: Kostenoptimierung & Preisgestaltung für AI/ML — Lernleitfaden
Teil des AWS AI Practitioner AIF-C01 — Lernleitfaden. Üben Sie mit verifizierten Antworten im Amazon-Prüfungscenter, oder absolvieren Sie zeitlich begrenzte Übungstests auf ExamRoll.io.
Kostentreiber und Preismodelle für Bedrock, SageMaker und EC2
Die Preisgestaltung für KI/ML-Workloads teilt sich auf in Compute, Storage, Netzwerk und dienstspezifische Messgrößen. Der Zugriff auf Foundation Models über Amazon Bedrock wird typischerweise pro Anfrage oder pro Token für Text-Workloads und pro Sekunde für Streaming-APIs abgerechnet; SageMaker berechnet Instanzstunden für Training und mandantenfähiges Hosting sowie für Datenübertragung und Speicherung. EC2-basiertes Hosting verursacht die reinen Kosten pro Instanzstunde, zuzüglich Gebühren für EBS-, EFS- oder FSx-Speicher und VPC-Egress. Wesentliche Kostentreiber sind die Modellgröße (größere Modelle erhöhen den Token-/Rechenaufwand und den Speicherbedarf), der Inferenzdurchsatz (latenzempfindliche synchrone Aufrufe kosten mehr, wenn sie an teure GPUs gebunden sind) und die Datenbewegung für Retrieval-Augmented Generation (RAG), bei der Embedding-Lookups und Vektorsuchen die Anzahl der Aufrufe vervielfachen können. Häufige Fallstricke für Anwender sind die Unterschätzung der Embedding-Kosten bei RAG-Systemen mit hoher QPS-Zahl, das Laufenlassen mehrerer ungenutzter SageMaker-Endpunkte und die Nichtbeachtung von Cross-Region-Egress-Kosten, wenn personenbezogene Daten (PII) in der Region verbleiben müssen. Entscheidungskriterien sollten daher das Anfragevolumen, die Latenztoleranz pro Anfrage, die Notwendigkeit des Fine-Tunings eines Modells im Vergleich zur Nutzung eines Standardmodells und die Frage berücksichtigen, ob eine vom Anbieter verwaltete Inferenz (Bedrock/SageMaker-Endpunkte) oder selbst gehostete EC2/GPU-Instanzen unter Einbeziehung des Verwaltungs- und Skalierungsaufwands eine bessere TCO bieten.
Instanzauswahl, Spot-Instanzen und Muster zur Rechenleistungsoptimierung
Die Wahl der Instanzen beeinflusst sowohl die Leistung als auch die Kosten. Verwenden Sie für das Training Trainium (trn1) oder GPU-Cluster (p4/p5), wenn ein hoher Matrixdurchsatz im großen Maßstab erforderlich ist; für die Inferenz bevorzugen Sie Inferentia/Inf2 (inf1/inf2) oder Graviton-basierte CPU-Inferenz für kleinere Modelle, um die Kosten zu senken. Verwaltete Dienste wie SageMaker Managed Spot Training und SageMaker Distributed Training integrieren Checkpointing und fordern automatisch Spot-Kapazitäten zurück, um die Trainingskosten erheblich zu senken; Spot-Instanzen sind jedoch eine Kostenfalle für Produktionsumgebungen mit niedriger Latenz, es sei denn, sie werden mit robusten Fallback-Mechanismen kombiniert. Architekturmuster zur Kostensenkung umfassen asynchrones Batching, Autoscaling mit Schutz vor Kaltstarts, Multi-Model-Endpunkte zur Konsolidierung vieler kleiner Modelle auf einem einzigen Host sowie die Verwendung von Mixed-Precision und Quantisierung zur Reduzierung des Speicher- und Durchsatzbedarfs. Nutzen Sie Frameworks wie DeepSpeed oder ZeRO, um den Speicherbedarf beim Training großer Modelle zu verringern, und evaluieren Sie parameter-effizientes Fine-Tuning (LoRA/Adapter), um ein komplettes Neutraining des Modells zu vermeiden. Ein häufiger Fehler ist die Verwendung von High-End-GPUs für Workloads mit hohem Embedding-Anteil, bei denen CPU- oder Inferentia-Instanzen ein weitaus besseres Preis-Leistungs-Verhältnis bieten würden.
Kompromisse bei der Modellauswahl und kostenbewusste Strategien
Die Wahl des Modells ist ein Kompromiss zwischen Kosten, Latenz, Genauigkeit und Datensensitivität. Foundation Models in Bedrock bieten verwaltete Skalierung, Sicherheits-Tools und schnelle Iteration, verursachen aber Kosten pro Aufruf oder pro Token, die bei hohem Volumen dominieren können; Open-Source-Modelle, die auf SageMaker oder EC2 gehostet werden, können die Kosten pro Inferenz senken, wenn Sie den Hosting- und Betriebsaufwand amortisieren. Hybride Architekturen funktionieren gut: Führen Sie ein kleines, kostengünstiges Modell für den Großteil der Anfragen aus und eskalieren Sie bei komplexen Abfragen zu einem größeren Modell, oder nutzen Sie Retrieval-Augmented Generation, bei der der umfangreiche Kontext von einem Vektorspeicher (OpenSearch, eine auf Amazon QLDB basierende Vektordatenbank oder Drittanbieter) bereitgestellt wird und nur prägnante Prompts an das LLM gesendet werden. Bei Entscheidungen zum Fine-Tuning sollten parameter-effiziente Methoden (LoRA, Adapter) und JSONL-Prompt-Completion-Paare für Text-zu-Text-Aufgaben in Betracht gezogen werden, um die Nutzung von Datensätzen und Rechenleistung zu begrenzen. Häufige Fallstricke sind das unnötige Fine-Tuning zu großer Modelle anstelle der Verwendung von Prompt-Engineering, das Übersehen der Token-Längen-Inflation bei Prompts und das fehlende Caching oder die Deduplizierung von Antworten bei sich häufig wiederholenden Abfragen.
Speicher, Datenlokalität, Governance und Observability zur Kostenkontrolle
Die Wahl des Speichers beeinflusst sowohl die monatlichen Kosten als auch die Einhaltung gesetzlicher Vorschriften. Nutzen Sie S3 mit Lifecycle-Richtlinien, Intelligent-Tiering und komprimierten Formaten (Parquet/TFRecord) für Datensätze; legen Sie aktive Trainingsdaten in Hochdurchsatz-Speicherklassen ab und archivieren Sie Rohdaten in Glacier. Für PII und Datenresidenz sollten S3-Buckets, KMS-Schlüssel und Rechenressourcen in der erforderlichen AWS-Region verbleiben. Der Zugriff wird über VPC-Endpunkte, IAM-Richtlinien und private Netzwerke gesteuert, um versehentlichen regionenübergreifenden Datenabfluss (Egress) zu verhindern. Retrieval-Pipelines für RAG sollten Vektorspeicher (Amazon OpenSearch Service oder ein Embedding-Speicher auf EC2/EBS) zusammen mit der Inferenzschicht platzieren (Colocation), um Übertragungskosten und Latenz zu vermeiden. Observability- und Explainability-Tools wie SageMaker Clarify, Debugger und Model Monitor ermöglichen Governance und frühzeitige Drift-Erkennung, verursachen aber zusätzliche Kosten – setzen Sie stichprobenbasierte Monitore ein, um die Ausgaben zu kontrollieren. Minimieren Sie den ökologischen Fußabdruck und die Rechnung, indem Sie effiziente Chips (Inferentia/Trainium) und Batch-Verarbeitung wählen. Ein häufiger Fehler ist die Aktivierung von vollständigem Logging und kontinuierlichem Modell-Monitoring ohne Stichprobenschwellenwerte, was sowohl die Kosten als auch das Rauschen erhöht, während nur ein geringer Mehrwert entsteht.
Praktisches Problem: Anwendungsfallszenario
Szenario: Acme Retail betreibt einen AWS-KI-Stack und nutzt Amazon Bedrock für den LLM-Zugriff, Amazon SageMaker für das Training und Hosting von Modellen, S3 für Daten und Amazon OpenSearch für die Produktindizierung. Das Unternehmen muss täglich Tausende von Produktbeschreibungen in Absatzlänge mit einer konsistenten Markenstimme generieren und dabei strenge PII-Anforderungen innerhalb der Region sowie ein enges Kostenziel einhalten.
Herausforderung: Bereitstellung hochwertiger, markenkonformer Beschreibungen in großem Umfang bei gleichzeitiger Minimierung der Kosten pro Beschreibung und Sicherstellung, dass Kundendaten die vorgesehene AWS-Region niemals verlassen.
Empfohlener Ansatz:
- Verwenden Sie eine zweistufige Inferenz-Pipeline: Leiten Sie alle Anfragen zuerst an ein schlankes, lokal gehostetes Modell auf SageMaker oder EC2 (quantisiert), um gängige SKUs und einfache Beschreibungen zu bearbeiten. Eskalieren Sie komplexe oder Fälle mit geringer Konfidenz an ein Foundation Model von Bedrock.
- Speichern Sie Embeddings und Retrieval-Indizes in Amazon OpenSearch innerhalb der Region. Verwenden Sie einen prägnanten abgerufenen Kontext, um die Token-Nutzung von Bedrock gering zu halten, und cachen Sie häufige Antworten in ElastiCache.
- Führen Sie ein Fein-Tuning eines kleinen, spezialisierten Modells mit parametereffizienten Methoden (LoRA) auf SageMaker Managed Spot Training durch, mit Checkpoints in S3, und trainieren Sie das vollständige Modell nur selten neu.
- Erzwingen Sie Kontrollen an den Regionsgrenzen: S3-Buckets und KMS-Schlüssel innerhalb der Region, VPC-Endpunkte für Bedrock/SageMaker und stichprobenbasiertes Model Monitor + Clarify zur Begrenzung der Überwachungskosten.
Begründung: Die Kombination eines kostengünstigen Basismodells mit selektiver Eskalation minimiert die Token- und Instanzkosten pro Beschreibung, während RAG und Caching die Anzahl der Bedrock-Aufrufe reduzieren. Managed Spot Training und parametereffizientes Fein-Tuning senken die Trainingskosten und den Speicher-Overhead, während die regionsinternen Kontrollen die PII- und Compliance-Anforderungen erfüllen.
← MLOps · Alle Domänen
Diese Fragen üben → · Zeitlich begrenzte Übung auf ExamRoll.io →
Pass the whole exam — not just this question
You found this answer. Get every verified question and explanation in one place, and save hours of prep. Free to start.
Bestehe deine Prüfung →