Amazon AIF-C01: Concetti di AI Generativa — Guida allo studio
Fa parte della AWS AI Practitioner AIF-C01 — Guida allo studio. Esercitati con risposte verificate nel centro esami Amazon, oppure fai test cronometrati su ExamRoll.io.
Fondamenti di modelli fondazionali, token, embedding e multimodalità
I modelli fondazionali sono grandi reti neurali pre-addestrate che forniscono potenti capacità per scopi generici su testo, immagini e altre modalità; esempi disponibili tramite AWS includono l’accesso di Amazon Bedrock ai modelli Titan e di altri fornitori, e gli ambienti SageMaker per l’addestramento e l’hosting di modelli personalizzati. I token sono le unità atomiche — sottoparole o caratteri — che gli LLM utilizzano per l’input e l’output; la tokenizzazione determina l’utilizzo della finestra di contesto, il costo e il rischio di troncamento. Gli embedding sono vettori numerici densi che codificano il significato semantico e sono il collante per la ricerca di similarità, il clustering e il recupero di informazioni a valle (downstream retrieval); gli embedding possono essere generati da modelli Bedrock o da modelli ospitati su SageMaker. I modelli multimodali accettano e collegano testo, immagini e audio; i componenti di base (building block) tipici di AWS includono Amazon Rekognition per l’estrazione di feature visive, Amazon Textract per i documenti scansionati e Amazon Transcribe per la conversione audio-testo, con modelli Bedrock o SageMaker utilizzati per fondere le modalità. I compromessi chiave per chi opera nel settore includono la scelta di effettuare il fine-tuning di un modello fondazionale (costo più elevato, tempi di realizzazione più lunghi, migliore allineamento al task) rispetto al prompt-engineering e RAG (più veloce, costo inferiore, più sicuro per la privacy dei dati). Le trappole comuni includono ignorare i limiti dei token durante la costruzione del prompt, non versionare gli embedding o gli indici e sottovalutare le necessità di pre-elaborazione per gli input di immagini e documenti.
Prompt engineering, controlli del modello e tecniche di ragionamento
Il prompt engineering struttura istruzioni e contesto per ottenere output affidabili; i prompt efficaci separano le istruzioni di sistema (ruolo, guardrail), il contenuto dell’utente ed esempi opzionali di tipo few-shot. Utilizzare prompt di sistema concisi per definire stile, vincoli e formato di output, e archiviare template canonici per evitare deviazioni (drift). La regolazione dei parametri di inferenza come temperature, top-p e max_tokens in Bedrock o SageMaker influenza la creatività e il determinismo — una temperature più bassa e un top-p più ristretto producono risposte più coerenti a scapito della creatività. Le tecniche di ragionamento includono la chain-of-thought (ragionamento intermedio esplicito per migliorare i task multi-passo), la self-consistency (campionare molteplici percorsi di ragionamento e aggregarli) e i cicli di verifica (chiedere al modello di controllare o citare le fonti). Le trappole comuni sono la prompt injection (input non attendibili che alterano il comportamento del sistema), esempi few-shot fragili che causano overfitting sullo stile anziché sull’intento e trascurare la registrazione dei prompt per la verificabilità (auditability). Criteri decisionali per le tecniche: usare la chain-of-thought per ragionamenti complessi quando la trasparenza è importante, ma aggiungere la verifica quando i risultati hanno conseguenze nel mondo reale; preferire impostazioni deterministiche per le interfacce utente rivolte alla produzione per garantire la ripetibilità.
Retrieval-Augmented Generation (RAG), vector store, agenti e architetture
La RAG (Retrieval-Augmented Generation) abbina un livello di recupero (retrieval layer) a un modello generativo: indicizzare i documenti, calcolare gli embedding, eseguire una ricerca di similarità per recuperare il contesto e quindi condizionare l’LLM sui passaggi recuperati. Su AWS, le fonti dei documenti risiedono tipicamente in Amazon S3, l’estrazione utilizza Textract o pipeline personalizzate, gli embedding sono generati tramite Bedrock o SageMaker e i vettori sono archiviati in Amazon OpenSearch Service con k-NN o in vector store specializzati costruiti su DynamoDB o OpenSearch; Amazon Kendra può essere utilizzato quando sono richiesti connettori e una ricerca semantica di livello enterprise. Gli agenti sono controller basati su LLM che decidono quando invocare strumenti (tool) — ricerche, query su database, calcolatrici — e possono essere implementati orchestrando le chiamate al modello con AWS Lambda o Step Functions per eseguire gli strumenti in modo sicuro. I pattern architetturali includono la RAG sincrona per i chatbot e la RAG asincrona in batch per i processi di riepilogo (Athena o EMR per pre-elaborare grandi corpora di testo). Trappole per chi opera nel settore: indici obsoleti (non aggiornare gli embedding), includere un contesto eccessivamente lungo che supera le finestre di token e omettere di includere link di provenienza per il contenuto recuperato. La scelta tra Kendra e OpenSearch si basa sui connettori, sulla sicurezza e sulla necessità di un ranking semantico.
Allucinazioni, bias, interpretabilità, monitoraggio e governance
Le allucinazioni si verificano quando i modelli inventano fatti apparentemente plausibili ma errati; le strategie di mitigazione si concentrano sul grounding delle risposte (RAG), sulla citazione esplicita delle fonti recuperate, su modelli di verifica che controllano i fatti (fact-checking) negli output e sulla revisione umana (human-in-the-loop) per i domini ad alto rischio. Il bias deriva da dati di addestramento o distribuzioni di etichette sbilanciate; utilizzare Amazon SageMaker Clarify per rilevare il bias nel dataset, esaminare l’importanza delle feature e produrre artefatti di interpretabilità. Per le prestazioni e il drift del modello, implementare Amazon SageMaker Model Monitor per rilevare il drift dei dati e delle previsioni, registrare gli input/output di inferenza su CloudWatch e S3 per l’auditing e mantenere la provenienza dei prompt e delle fonti di recupero. La valutazione dovrebbe combinare metriche tecniche (precision/recall, F1, mAP per il rilevamento, ROUGE per la sintesi, perplessità ove applicabile) con metriche incentrate sull’uomo come l’utilità, la sicurezza e la latenza. Le pratiche di governance includono il red-teaming degli output, filtri di contenuto automatizzati, il rilevamento e l’oscuramento di PII con Amazon Comprehend PII, il versioning di modelli ed embedding e la documentazione dell’uso previsto e delle limitazioni. Le trappole comuni includono l’affidarsi esclusivamente a test sintetici, una registrazione insufficiente per la conformità e l’omettere la mitigazione del bias prima del deployment in contesti regolamentati.
Problema Pratico: Scenario d’Uso
Scenario: MedData Analytics gestisce un assistente diagnostico interno che utilizza Amazon Bedrock per la generazione, con manuali per i pazienti e referti di imaging archiviati in Amazon S3 e una pipeline di addestramento SageMaker per gli esperimenti sui modelli. Devono fornire suggerimenti diagnostici trasparenti e verificabili, minimizzando al contempo allucinazioni e bias per i medici.
Sfida: Basare (grounding) gli output del modello su documenti attendibili, garantire l’interpretabilità e i controlli sul bias, e creare una pipeline RAG di produzione che mantenga la provenienza e la supervisione umana.
Approccio Raccomandato:
- Utilizzare Amazon Textract per estrarre testo strutturato dai PDF e Amazon Comprehend PII per oscurare i campi sensibili; archiviare i documenti sanificati in Amazon S3 e tracciare le versioni con l’object tagging.
- Generare gli embedding con un modello di embedding di Amazon Bedrock (o un encoder ospitato su SageMaker), indicizzare i vettori in Amazon OpenSearch Service con k-NN e archiviare i metadati in DynamoDB per i link di provenienza.
- Costruire un’orchestrazione RAG in cui Lambda (o Step Functions) recupera i passaggi top_k, assembla un template di prompt di sistema e chiama Amazon Bedrock per la generazione con una bassa
temperaturee istruzioni esplicite di “citare le fonti”. - Applicare SageMaker Clarify sui dati di addestramento/etichettatura per rilevare il bias, usare SageMaker Model Monitor per gli avvisi di drift, registrare i prompt e gli ID di recupero su CloudWatch/S3 e instradare gli output ad alto rischio attraverso Amazon A2I per la revisione da parte dei medici.
Motivazione: Basare (grounding) gli output tramite RAG e la citazione esplicita delle fonti riduce le allucinazioni; la combinazione di Clarify, Model Monitor e revisione umana fornisce interpretabilità, rilevamento del bias e una governance operativa sicura, in linea con le best practice del settore.
← Fondamenti di AI e ML · Tutti i domini · Servizi AWS AI →
Esercitati su queste domande → · Pratica cronometrata su ExamRoll.io →
Pass the whole exam — not just this question
You found this answer. Get every verified question and explanation in one place, and save hours of prep. Free to start.
Supera l'esame →