Amazon AIF-C01: Generatieve AI Concepten — Studiegids
Onderdeel van de AWS AI Practitioner AIF-C01 — Studiegids. Oefen met geverifieerde antwoorden in het Amazon-examencentrum, of doe getimede oefentests op ExamRoll.io.
Hallucinaties, bias, verklaarbaarheid, monitoring en governance
Hallucinaties treden op wanneer modellen plausibel klinkende maar onjuiste feiten verzinnen; mitigatiestrategieën richten zich op het ‘grounden’ van antwoorden (RAG), expliciete bronvermelding van opgehaalde bronnen, verificatiemodellen die de output factchecken, en ‘human-in-the-loop’ beoordeling voor domeinen met een hoog risico. Bias ontstaat door scheve trainingsdata of labeldistributies; gebruik Amazon SageMaker Clarify om dataset-bias te detecteren, ‘feature importances’ te onderzoeken en verklaarbaarheidsartefacten te produceren. Voor modelprestaties en ‘drift’, implementeer Amazon SageMaker Model Monitor om data- en voorspellingsdrift te detecteren, log de input/output van inferentie naar CloudWatch en S3 voor auditing, en bewaar de herkomst (‘provenance’) van prompts en opgehaalde bronnen. Evaluatie moet technische metrics (precision/recall, F1, mAP voor detectie, ROUGE voor samenvattingen, perplexity waar van toepassing) combineren met mensgerichte metrics zoals behulpzaamheid, veiligheid en latency. Praktische governance-werkwijzen omvatten ‘red-teaming’ van outputs, geautomatiseerde contentfilters, PII-detectie en -redactie met Amazon Comprehend PII, versiebeheer van modellen en embeddings, en het documenteren van het beoogde gebruik en de beperkingen. Veelvoorkomende valkuilen zijn het uitsluitend vertrouwen op synthetische tests, onvoldoende logging voor compliance, en het overslaan van bias-mitigatie vóór de implementatie in gereguleerde contexten.
Praktijkprobleem: Use-Case Scenario
Scenario: MedData Analytics beheert een interne diagnostische assistent die Amazon Bedrock gebruikt voor generatie, patiëntenhandleidingen en beeldvormingsrapporten die zijn opgeslagen in Amazon S3, en een SageMaker-trainingspipeline voor modelexperimenten. Ze moeten transparante, verifieerbare diagnostische suggesties leveren en tegelijkertijd hallucinaties en bias voor clinici minimaliseren.
Uitdaging: De output van het model ‘grounden’ in vertrouwde documenten, zorgen voor verklaarbaarheid en bias-controles, en een productie-RAG-pipeline creëren die de herkomst (‘provenance’) en menselijk toezicht waarborgt.
Aanbevolen Aanpak:
- Gebruik Amazon Textract om gestructureerde tekst uit PDF’s te extraheren en Amazon Comprehend PII om gevoelige velden te redigeren; sla de opgeschoonde documenten op in Amazon S3 en volg versies met object-tagging.
- Genereer embeddings met een Amazon Bedrock embedding-model (of een op SageMaker gehoste encoder), indexeer vectoren in Amazon OpenSearch Service met k-NN, en sla metadata op in DynamoDB voor herkomstlinks (‘provenance links’).
- Bouw een RAG-orkestratie waarbij Lambda (of Step Functions) de top_k passages ophaalt, een ‘system prompt template’ samenstelt, en Amazon Bedrock aanroept voor generatie met een lage ’temperature’ en expliciete “citeer bronnen”-instructies.
- Pas SageMaker Clarify toe op trainings-/labeldata om bias te detecteren, gebruik SageMaker Model Monitor voor drift-alerts, log prompts en retrieval-ID’s naar CloudWatch/S3, en routeer outputs met een hoog risico via Amazon A2I voor beoordeling door een clinicus.
Rationale: Het ‘grounden’ van outputs via RAG en expliciete bronvermelding vermindert hallucinaties; de combinatie van Clarify, Model Monitor en menselijke beoordeling zorgt voor verklaarbaarheid, bias-detectie en veilige operationele governance die in lijn is met de best practices van professionals.
← Grondbeginselen van AI en ML · Alle domeinen · AWS AI →
Oefen deze vragen → · Getimede oefening op ExamRoll.io →
Pass the whole exam — not just this question
You found this answer. Get every verified question and explanation in one place, and save hours of prep. Free to start.
Slaag voor je examen →