Amazon MLA-C01: Generatieve AI en Foundation Models — Studiegids

By Laurynas Brazys · 3 August 2026 · #amazon #mla-c01 #certification #exam-prep #study-guide

Onderdeel van de AWS Machine Learning Engineer Associate MLA-C01 — Studiegids. Oefen met geverifieerde antwoorden in het Amazon-examencentrum, of doe getimede oefentests op ExamRoll.io.

Kernconcept

Foundation models zijn grote, vooraf getrainde netwerken—meestal gebaseerd op transformers—die algemene taal-, beeld- of multimodale representaties bieden. Praktische productisatie vereist dat deze brede capaciteiten worden omgezet in applicatiespecifiek gedrag door middel van drie onafhankelijke methoden: prompt engineering tijdens inferentie, retrieval-augmented generation (RAG) om outputs te baseren op actuele of domeinspecifieke kennis, en modelaanpassing via fine-tuning of parameter-efficiënte technieken. Amazon Bedrock biedt een beheerd pad om foundation models van derden en van Amazon zelf aan te roepen via een uniforme API, wat de modelselectie abstraheert terwijl de controle over inputs, modelparameters (temperature, top_p, max_output_tokens) en de verwerking van responsen behouden blijft. SageMaker JumpStart vult Bedrock aan door vooraf getrainde modelartefacten, trainingsscripts en fine-tuning-recepten te verpakken die draaien op SageMaker Training- of Hugging Face-containers, wat reproduceerbare aanpassingsworkflows en integratie met de model registry mogelijk maakt.

Fine-tuning komt in verschillende varianten die een afweging maken tussen rekenkracht- en datasetvereisten en de nauwkeurigheid van de aanpassing. Volledige fine-tuning werkt alle modelgewichten bij en levert vaak de hoogste taakspecifieke prestaties op, maar vereist grote GPU-vloten en opslag voor checkpoints. Parameter-efficiënte fine-tuning (PEFT) technieken zoals LoRA (low-rank adapters), adaptermodules, of QLoRA (quantized low-rank adapters) verminderen het GPU-geheugen en de tijd drastisch door een klein aantal extra parameters te injecteren en te trainen, compatibel met SageMaker-training met behulp van Hugging Face en bitsandbytes voor 8-bit/4-bit kwantisatie. Reinforcement learning from human feedback (RLHF) is een complexere pijplijn: verzamel paarsgewijze menselijke voorkeurslabels, train een reward-model (een supervised learning-stap met SageMaker Training en een ModelPackage), en optimaliseer het policy-model met on-policy RL (PPO of vergelijkbaar), terwijl rollouts en checkpoints in S3 worden opgeslagen en reward-signalen worden gemonitord met SageMaker Debugger.

RAG-architecturen overbruggen de kloof tussen foundation models en actuele corpora om hallucinaties te verminderen. De typische RAG-pijplijn embedt de querytekst met een embeddings-model (Bedrock Embeddings API of een SageMaker Hugging Face embedder), voert een nearest-neighbor vector search uit in een index (Amazon OpenSearch Service met k-NN, Amazon Kendra, of vector-DB’s van derden), haalt de top-k documenten op, en conditioneert het LM met de opgehaalde context via prompt-templates en gecontroleerde decoderingsparameters. Het beheren van actualiteit en relevantie vereist periodieke heropname en herindexering van bronnen met behulp van AWS Glue, AWS Lambda voor streaming updates, of AWS DMS voor transactionele bronnen, en het opslaan van herkomstmetadata (source_id, document_id, ingestion_time) naast de vectoren voor auditeerbaarheid.

Belangrijkste services en configuratie

Amazon Bedrock stelt de InvokeModel API beschikbaar, waarbij requests de model-identifier en runtime-parameters bevatten: geef

undefined

headers door, een

undefined

met prompts of

undefined

, en

undefined

zoals

undefined

. Gebruik gestructureerde systeem- en gebruikersberichten om rolgebaseerde instructies te scheiden en outputformaten te beperken; forceer stopsequenties en

undefined

om latentie en kosten te beperken. Gebruik voor het genereren van embeddings het Bedrock embeddings-eindpunt of een SageMaker Hugging Face-inferentiecontainer en sla vectoren persistent op in OpenSearch, Kendra of een externe vector-DB.

SageMaker JumpStart biedt vooraf gebouwde notebooks en fine-tuning-pijplijnen die aansluiten op

undefined

met concrete API-parameters:

undefined

(

undefined

(

undefined

(

undefined

(

undefined

), en

undefined

(

undefined

). Gebruik voor model governance de SageMaker Model Registry en

undefined

met

undefined

ingesteld op “PendingManualApproval”; integreer modelpromotie in CI/CD door het

undefined

-attribuut te gebruiken samen met AWS CodePipeline of AWS Step Functions en een ManualApproval-actie om implementaties te bewaken. Voor continue monitoring en detectie van bias, implementeer SageMaker Model Monitor via

undefined

met

undefined

; gebruik SageMaker Clarify via ProcessingJob API’s (

undefined

) om bias-statistieken van de dataset te berekenen en basislijnen te produceren die in S3 worden opgeslagen.

Kies voor vector search en RAG een indexerings- en zoektechnologie op basis van schaal en querylatentie. Amazon OpenSearch Service ondersteunt de k-NN-plugin en biedt REST API’s en fijnmazige toegangscontrole; Amazon Kendra biedt semantisch zoeken op bedrijfsniveau met connectors naar S3, SharePoint en RDS. Gebruik AWS Glue crawlers om een centrale Data Catalog op te bouwen, en AWS Lake Formation om fijnmazige toegangscontrole en isolatie van S3-trainingsdata af te dwingen, en zorg ervoor dat IAM, bucket policies en encryptie (SSE-S3 of SSE-KMS) worden toegepast.

Ontwerppatronen en afwegingen

Bij het aanpassen van foundation models moet u een keuze maken tussen offline fine-tuning en runtime prompt engineering. Volledige fine-tuning maximaliseert de prestaties voor specifieke taken, maar verhoogt de operationele complexiteit: trainingstaken vereisen grote GPU-vloten, multi-node gedistribueerde training (gebruik SageMaker DistributedDataParallel of Horovod in Script Mode), checkpointing naar S3 via UploadDirectory, en later kwantisatie en conversie voor efficiënte inference. PEFT-benaderingen zoals LoRA houden de meeste gewichten van het model bevroren, wat de trainingstijd drastisch verkort, goedkopere hyperparameter sweeps mogelijk maakt en een rollback vereenvoudigt omdat het basismodel intact blijft. Voor inference verlichten door Bedrock beheerde endpoints de operationele last voor FMs van derden, terwijl SageMaker real-time endpoints meer gedetailleerde controle bieden: gebruik MultiModelEndpoints voor het serveren van veel modellen vanaf één instance, Serverless Inference voor onvoorspelbaar verkeer, of provisioned endpoints met auto-scaling en provisioned concurrency om cold starts te verminderen.

RAG introduceert complexiteit bij het actueel houden van de index en bij het balanceren tussen retrieval en hallucinatie. Een eenvoudig patroon is hybrid retrieval: voer eerst een vector search (semantisch) uit en pas daarna een trefwoordenfilter toe om de precisie te garanderen. Sla metadata van document-chunks op zodat de generatiestap bronnen kan citeren en controles door Model Monitor op de frequentie van hallucinaties kan faciliteren. Voor latency-gevoelige applicaties, plaats de embedding-berekening en de index samen (SageMaker inference + OpenSearch in dezelfde VPC) en gebruik approximate nearest neighbor (ANN) indexering om recall in te ruilen voor snelheid.

RLHF is omslachtig maar noodzakelijk wanneer afstemming op menselijke waarden of veiligheid vereist is. De pipeline vereist tooling voor annotatie, reproduceerbare reward-training met de SageMaker Estimator APIs, en stabiele RL-optimizers (PPO-implementaties in de RLlib- of Stable Baselines-families). De kosten en instabiliteit van RLHF moeten worden afgewogen tegen de mogelijkheid om gedrag te corrigeren dat niet als een statische loss kan worden gecodeerd.

Veelvoorkomende valkuilen en beslissingscriteria

Een veelgemaakte fout is om uitsluitend te vertrouwen op prompts om systematische fouten te herstellen die aanpassing op modelniveau vereisen; prompts kunnen helpen, maar vervangen geen fine-tuning of RAG voor domeinverankering. Een andere valkuil is het onderschatten van governance: het in productie nemen van generatieve systemen vereist model lineage (SageMaker Model Registry), automatische drift-detectie (Model Monitor baselines en Clarify) en een goedkeuringsworkflow (ApprovalStatus + CodePipeline handmatige goedkeuring). Bij embedding stores maakt het kiezen van een vectorindex zonder metadata of herkomst latere audits en foutanalyses kostbaar.

Beslis over model-hosting door een balans te vinden tussen controle en operationele overhead. Gebruik Bedrock wanneer je beheerde toegang wilt tot diverse, performante foundation models zonder de inference-vloot te beheren. Gebruik SageMaker-endpoints wanneer je aangepaste inference-stacks, VPC-isolatie of volledige integratie met de Model Registry en Model Monitor nodig hebt. Voor fine-tuning-methoden, selecteer PEFT wanneer de dataset bescheiden is en snelle iteratie belangrijk is; kies voor volledige fine-tuning wanneer het domein diepgaande representationele veranderingen vereist en je het GPU-budget hebt.

Praktijkprobleem: Gebruiksscenario

Naam bedrijf: AuroraPayments — uitdaging: implementeer een auditeerbare fraudedetectie-assistent met lage latentie die transactiecontext en beleidsdocumenten synthetiseert om verdachte scores te verklaren en gecontroleerde modelupdates ondersteunt.

Data-aggregatie en -opslag: gebruik AWS Glue om S3-transactielogs te crawlen en stel AWS DMS in om on-premise MySQL-tabellen te repliceren naar Amazon RDS of S3. Registreer alle bronnen in de AWS Glue Data Catalog en pas Lake Formation-beleid toe. Rationale: Glue biedt serverless ETL en een uniforme catalogus voor downstream ophalen en Lake Formation dwingt S3-toegangsisolatie af.
Feature engineering en anomaliedetectie: neem features op in SageMaker Feature Store voor offline/online consistentie. Voer geautomatiseerde anomaliedetectie uit met Amazon Lookout for Metrics op transactie-tijdreeksen en toon dashboards in Amazon QuickSight. Rationale: Feature Store garandeert reproduceerbare features voor training en serving; Lookout for Metrics automatiseert anomaliedetectie en QuickSight biedt visualisatie voor businessanalisten.
Modeltraining en omgaan met onbalans: train een XGBoost-classifier met de ingebouwde XGBoost van SageMaker met hyperparameters en stel scale_pos_weight in op (num_negative/num_positive) om de klasse-onbalans te corrigeren. Gebruik SageMaker Training CreateTrainingJob met een ResourceConfig die is afgestemd op de trainingsgrootte en schakel S3-checkpointing in voor fouttolerantie. Rationale: XGBoost is effectief voor tabellaire fraudetaken; scale_pos_weight vereist minimale operationele overhead in vergelijking met synthetische oversampling.
Model-registry, goedkeuring en deployment: registreer modelartefacten in SageMaker Model Registry met CreateModelPackage/ModelPackageGroupName en stel ApprovalStatus in op “PendingManualApproval”. Implementeer een CodePipeline die een goedkeuringsactie triggert en vervolgens goedgekeurde versies implementeert naar SageMaker real-time endpoints met MultiModel endpoints of Provisioned Instances achter Auto Scaling. Rationale: Model Registry onderhoudt centrale versiebeheer en governance; handmatige goedkeuring via CodePipeline dwingt geautoriseerde releases af.
Verklaarbaarheid en RAG voor beleidsverankering: creëer embeddings van beleidsdocumenten met Bedrock of een SageMaker Hugging Face-embedder, indexeer ze in Amazon OpenSearch k-NN met metadata, en implementeer een RAG-flow waarbij een prompt voor een verdachte transactie de top-k opgehaalde beleidsfragmenten bevat, plus een template die het foundation model instrueert om bronnen te vermelden en een voor mensen leesbare uitleg te genereren. Rationale: RAG verankert verklaringen in gezaghebbende documenten en OpenSearch biedt schaalbare vector search binnen de veiligheidsperimeter.
Monitoring en hertraining: schakel SageMaker Model Monitor in met een baseline van de initiële validatie en plan on-demand Clarify ProcessingJobs om na de implementatie bias-controles uit te voeren. Als Model Monitor drift signaleert (distributionele verandering in features of labelveranderingen), trigger dan een SageMaker Pipeline die data-inname uitvoert, hertraint met LoRA fine-tuning als een foundation model-encoder voor tekstuele features wordt gebruikt, evalueert en het nieuwe model in de registry plaatst als PendingManualApproval. Rationale: Continue monitoring met geautomatiseerde pipelines houdt de modelprestaties en compliance op peil, terwijl handmatige controle over productiewijzigingen behouden blijft.

← Beveiliging · Alle domeinen · Kostenoptimalisatie voor ML-workloads →

Oefen deze vragen → · Getimede oefening op ExamRoll.io →