Amazon MLA-C01: Generative KI und Foundation Models — Lernleitfaden
Teil des AWS Machine Learning Engineer Associate MLA-C01 — Lernleitfaden. Üben Sie mit verifizierten Antworten im Amazon-Prüfungscenter, oder absolvieren Sie zeitlich begrenzte Übungstests auf ExamRoll.io.
Grundkonzept
Foundation-Modelle sind große, vortrainierte Netzwerke – typischerweise auf Transformer-Basis – die allgemeine Sprach-, Bild- oder multimodale Repräsentationen bereitstellen. Die praktische Produktivsetzung erfordert die Umwandlung dieser breiten Fähigkeiten in anwendungsspezifische Verhaltensweisen durch drei orthogonale Hebel: Prompt-Engineering zur Inferenzzeit, Retrieval-Augmented Generation (RAG), um Ausgaben auf aktuellen oder domänenspezifischen Daten zu verankern, und Modellanpassung durch Fine-Tuning oder parametereffiziente Techniken. Amazon Bedrock bietet einen verwalteten Pfad zum Aufrufen von Foundation-Modellen von Drittanbietern und von Amazon über eine einheitliche API. Dies abstrahiert die Modellauswahl, während die Kontrolle über Eingaben, Modellparameter (temperature, top_p, max_output_tokens) und die Verarbeitung der Antworten erhalten bleibt. SageMaker JumpStart ergänzt Bedrock durch die Bereitstellung von Paketen mit vortrainierten Modell-Artefakten, Trainingsskripten und Fine-Tuning-Rezepten, die auf SageMaker Training oder Hugging Face-Containern ausgeführt werden. Dies ermöglicht reproduzierbare Anpassungs-Workflows und die Integration in die Model Registry.
Fine-Tuning gibt es in verschiedenen Varianten, die einen Kompromiss zwischen Rechen- und Datensatzanforderungen und der Genauigkeit der Anpassung darstellen. Das vollständige Fine-Tuning (Full Fine-Tuning) aktualisiert alle Modellgewichtungen und liefert oft die höchste aufgabenspezifische Leistung, erfordert jedoch große GPU-Flotten und Speicher für Checkpoints. Parametereffiziente Fine-Tuning-Techniken (PEFT) wie LoRA (Low-Rank Adapters), Adapter-Module oder QLoRA (Quantized Low-Rank Adapters) reduzieren den GPU-Speicher und die Zeit drastisch, indem sie eine kleine Anzahl zusätzlicher Parameter injizieren und trainieren. Diese sind kompatibel mit SageMaker Training unter Verwendung von Hugging Face und bitsandbytes für die 8-Bit/4-Bit-Quantisierung. Reinforcement Learning from Human Feedback (RLHF) ist eine komplexere Pipeline: Sammeln von paarweisen menschlichen Präferenz-Labels, Trainieren eines Belohnungsmodells (ein Schritt des überwachten Lernens mit SageMaker Training und einem ModelPackage) und Optimieren des Policy-Modells mit On-Policy-RL (PPO oder ähnlich), während Rollouts und Checkpoints in S3 gespeichert und Belohnungssignale mit SageMaker Debugger überwacht werden.
RAG-Architekturen schlagen eine Brücke zwischen Foundation-Modellen und aktuellen Korpora, um Halluzinationen zu reduzieren. Die typische RAG-Pipeline bettet den Abfragetext mit einem Embeddings-Modell ein (Bedrock Embeddings API oder ein SageMaker Hugging Face Embedder), führt eine Vektorsuche nach den nächsten Nachbarn in einem Index durch (Amazon OpenSearch Service mit k-NN, Amazon Kendra oder Vektor-DBs von Drittanbietern), ruft die Top-k-Dokumente ab und konditioniert das Sprachmodell (LM) mit dem abgerufenen Kontext über Prompt-Templates und gesteuerte Dekodierungsparameter. Die Verwaltung von Aktualität und Relevanz erfordert die regelmäßige Neuaufnahme und Neuindizierung von Quellen mithilfe von AWS Glue, AWS Lambda für Streaming-Updates oder AWS DMS für transaktionale Quellen. Zudem müssen Herkunfts-Metadaten (source_id, document_id, ingestion_time) zusammen mit den Vektoren für die Auditierbarkeit gespeichert werden.
Wichtige Services und Konfiguration
Amazon Bedrock stellt die InvokeModel-API bereit, bei der Anfragen die Modellkennung und Laufzeitparameter enthalten: Übergeben Sie modelId, contentType- und accept-Header, den Body mit Prompts oder inputText und modelParameters wie temperature, topP und maxOutputTokens. Verwenden Sie strukturierte System- und Benutzernachrichten, um rollenbasierte Anweisungen zu trennen und Ausgabeformate einzuschränken; erzwingen Sie Stoppsequenzen und max_output_tokens, um Latenz und Kosten zu begrenzen. Für die Erzeugung von Embeddings verwenden Sie den Bedrock-Embeddings-Endpunkt oder einen SageMaker Hugging Face Inferenz-Container und persistieren Sie die Vektoren in OpenSearch, Kendra oder einer externen Vektor-DB.
SageMaker JumpStart bietet vorgefertigte Notebooks und Fine-Tuning-Pipelines, die mit konkreten API-Parametern in CreateTrainingJob integriert werden: TrainingJobName, AlgorithmSpecification (TrainingImage, TrainingInputMode), RoleArn, InputDataConfig (S3Uri, DataSource), OutputDataConfig (S3OutputPath), ResourceConfig (InstanceType, InstanceCount, VolumeSizeInGB) und StoppingCondition (MaxRuntimeInSeconds). Für die Model Governance verwenden Sie die SageMaker Model Registry und CreateModelPackage/CreateModelPackageGroup mit dem ApprovalStatus „PendingManualApproval“. Integrieren Sie die Beförderung von Modellen in CI/CD, indem Sie das ApprovalStatus-Attribut zusammen mit AWS CodePipeline oder AWS Step Functions und einer ManualApproval-Aktion verwenden, um Deployments zu steuern. Für die kontinuierliche Überwachung und die Erkennung von Bias (Verzerrungen) stellen Sie SageMaker Model Monitor über CreateMonitoringSchedule mit MonitoringScheduleConfig und BaselineConfig bereit. Verwenden Sie SageMaker Clarify über die ProcessingJob-APIs (ClarifyProcessor.run_pre_training_bias und run_post_training_bias), um Metriken zur Verzerrung des Datensatzes zu berechnen und in S3 gespeicherte Baselines zu erstellen.
Wählen Sie für die Vektorsuche und RAG die Indexierungs- und Suchtechnologie basierend auf Skalierung und Abfragelatenz. Amazon OpenSearch Service unterstützt das k-NN-Plugin und bietet REST-APIs sowie eine granulare Zugriffskontrolle; Amazon Kendra bietet semantische Unternehmenssuche mit Konnektoren zu S3, SharePoint und RDS. Verwenden Sie AWS Glue Crawler, um einen zentralen Data Catalog zu erstellen, und AWS Lake Formation, um eine granulare Zugriffskontrolle und die Isolierung von S3-Trainingsdaten durchzusetzen. Stellen Sie dabei sicher, dass IAM, Bucket-Richtlinien und Verschlüsselung (SSE-S3 oder SSE-KMS) angewendet werden.
Häufige Fallstricke und Entscheidungskriterien
Ein häufiger Fehler ist, sich ausschließlich auf Prompts zu verlassen, um systematische Fehler zu beheben, die eine Anpassung auf Modellebene erfordern; Prompts können helfen, ersetzen aber nicht das Fine-Tuning oder RAG für die Domänenverankerung. Ein weiterer Fallstrick ist die Unterschätzung der Governance: Die Produktivsetzung generativer Systeme erfordert eine Nachverfolgung der Modellherkunft (SageMaker Model Registry), eine automatische Drift-Erkennung (Model Monitor Baselines und Clarify) und einen Genehmigungsworkflow (ApprovalStatus + manuelle Genehmigung in CodePipeline). Bei Embedding-Speichern macht die Wahl eines Vektorindex ohne Metadaten oder Herkunftsnachweis spätere Audits und Fehleranalysen kostspielig.
Entscheiden Sie über das Modell-Hosting, indem Sie Kontrolle gegen Betriebsaufwand abwägen. Verwenden Sie Bedrock, wenn Sie einen verwalteten Zugriff auf vielfältige, performante Foundation Models wünschen, ohne die Inferenz-Flotte verwalten zu müssen. Verwenden Sie SageMaker-Endpunkte, wenn Sie benutzerdefinierte Inferenz-Stacks, VPC-Isolierung oder eine vollständige Integration mit der Model Registry und dem Model Monitor benötigen. Wählen Sie bei den Fine-Tuning-Methoden PEFT, wenn die Datensatzgröße moderat ist und schnelle Iterationen wichtig sind; wählen Sie das vollständige Fine-Tuning, wenn die Domäne eine tiefgreifende repräsentative Veränderung erfordert und Sie über das entsprechende GPU-Budget verfügen.
Praktisches Problem: Anwendungsfallszenario
Fiktives Unternehmen: AuroraPayments – Herausforderung: Bereitstellung eines auditierbaren Betrugserkennungsassistenten mit geringer Latenz, der Transaktionskontext und Richtliniendokumente synthetisiert, um verdächtige Scores zu erklären, und der kontrollierte Modell-Updates unterstützt.
Datenaggregation und -speicherung: Verwenden Sie AWS Glue, um S3-Transaktionsprotokolle zu crawlen, und richten Sie AWS DMS ein, um On-Premise-MySQL-Tabellen nach Amazon RDS oder S3 zu replizieren. Registrieren Sie alle Quellen im AWS Glue Data Catalog und wenden Sie Lake Formation-Richtlinien an. Begründung: Glue bietet serverloses ETL und einen einheitlichen Katalog für den nachgelagerten Abruf, und Lake Formation erzwingt die S3-Zugriffs-Isolierung.
Feature-Engineering und Anomalieerkennung: Nehmen Sie Features in den SageMaker Feature Store auf, um Offline-/Online-Konsistenz zu gewährleisten. Führen Sie eine automatisierte Anomalieerkennung mit Amazon Lookout for Metrics für Transaktionszeitreihen durch und stellen Sie Dashboards in Amazon QuickSight bereit. Begründung: Der Feature Store garantiert reproduzierbare Features für Training und Serving; Lookout for Metrics automatisiert die Anomalieerkennung und QuickSight bietet Visualisierungen für Business-Analysten.
Modelltraining und Umgang mit Imbalance: Trainieren Sie einen XGBoost-Klassifikator mit dem in SageMaker integrierten XGBoost mit Hyperparametern und setzen Sie
scale_pos_weightauf(num_negative/num_positive), um die Klassen-Imbalance zu korrigieren. Verwenden Sie SageMaker TrainingCreateTrainingJobmit einer auf die Trainingsgröße abgestimmtenResourceConfigund aktivieren Sie S3-Checkpointing für Fehlertoleranz. Begründung: XGBoost ist effektiv für tabellarische Betrugserkennungsaufgaben;scale_pos_weighterfordert im Vergleich zu synthetischem Oversampling einen minimalen Betriebsaufwand.Modellregistrierung, -genehmigung und -bereitstellung: Registrieren Sie Modell-Artefakte in der SageMaker Model Registry mit
CreateModelPackage/ModelPackageGroupNameund setzen Sie denApprovalStatusauf „PendingManualApproval“. Implementieren Sie eine CodePipeline, die eine Genehmigungsaktion auslöst und dann genehmigte Versionen auf SageMaker-Echtzeit-Endpunkten mit MultiModel-Endpunkten oder Provisioned Instances hinter Auto Scaling bereitstellt. Begründung: Die Model Registry sorgt für zentrale Versionierung und Governance; die manuelle Genehmigung über CodePipeline erzwingt autorisierte Releases.Erklärbarkeit und RAG zur Verankerung in Richtlinien: Erstellen Sie Embeddings von Richtliniendokumenten mit Bedrock oder einem SageMaker Hugging Face Embedder, indizieren Sie diese in Amazon OpenSearch k-NN mit Metadaten und implementieren Sie einen RAG-Flow, bei dem ein Prompt für eine verdächtige Transaktion die Top-k abgerufenen Richtlinienausschnitte sowie eine Vorlage enthält, die das Foundation Model anweist, Quellen zu zitieren und eine für Menschen lesbare Erklärung zu generieren. Begründung: RAG verankert Erklärungen in maßgeblichen Dokumenten und OpenSearch bietet eine skalierbare Vektorsuche innerhalb des Sicherheitsperimeters.
Überwachung und Neutraining: Aktivieren Sie SageMaker Model Monitor mit einer Baseline aus der initialen Validierung und planen Sie On-Demand Clarify
ProcessingJobsein, um nach der Bereitstellung Bias-Prüfungen durchzuführen. Wenn Model Monitor einen Drift signalisiert (Verteilungsänderung bei Features oder Label-Änderungen), lösen Sie eine SageMaker Pipeline aus, die die Datenaufnahme ausführt, mit LoRA Fine-Tuning neu trainiert (falls ein Foundation-Model-Encoder für textuelle Features verwendet wird), evaluiert und das neue Modell alsPendingManualApprovalin der Registry ablegt. Begründung: Kontinuierliche Überwachung mit automatisierten Pipelines hält die Modellleistung und Compliance unter Kontrolle, während die manuelle Kontrolle über Produktionsänderungen erhalten bleibt.
← Sicherheit · Alle Domänen · Kostenoptimierung für ML-Workloads →
Diese Fragen üben → · Zeitlich begrenzte Übung auf ExamRoll.io →
Pass the whole exam — not just this question
You found this answer. Get every verified question and explanation in one place, and save hours of prep. Free to start.
Bestehe deine Prüfung →