Amazon AIF-C01: Servizi AWS AI/ML — Guida allo studio
Fa parte della AWS AI Practitioner AIF-C01 — Guida allo studio. Esercitati con risposte verificate nel centro esami Amazon, oppure fai test cronometrati su ExamRoll.io.
Modelli fondazionali, Amazon Bedrock e pattern di inferenza
I modelli fondazionali ospitati tramite Amazon Bedrock offrono un percorso rapido verso capacità generative utilizzando diverse famiglie di modelli, incluse opzioni ad alto throughput e ottimizzate per le istruzioni (instruction-tuned) come Q e Nova. È possibile scegliere tra apprendimento in-context e personalizzazione: i prompt few-shot sono economici da iterare ma sensibili alla prompt injection e instabili ai cambiamenti di distribuzione; il fine-tuning efficiente dei parametri o la personalizzazione completa riducono il costo per inferenza e la latenza a scapito della governance dei dati e della complessità del retraining. Il costo e la latenza dell’inferenza sono determinati principalmente dalla dimensione del modello e dal numero di token di input e output elaborati, quindi è bene progettare prompt concisi, mettere in cache le risposte frequenti e preferire modelli specializzati più piccoli per endpoint ad alto volume. Le trappole comuni per gli operatori del settore includono il trattare gli output degli LLM come autorevoli senza grounding, il non controllare i dati sensibili inseriti nei prompt e il non strumentare i template e le versioni dei prompt. I criteri decisionali dovrebbero ponderare latenza, costo dei token, privacy e proprietà del modello: utilizzare la connettività privata e la crittografia KMS di Bedrock quando i vincoli normativi richiedono l’isolamento dei dati, oppure scegliere modelli ospitati su SageMaker quando si necessita del pieno controllo sugli artefatti di training e sugli strumenti di explainability. Implementare la sanitizzazione dell’input, istruzioni a livello di sistema immutabili e controlli di sicurezza a più livelli per ridurre gli attacchi basati su prompt e la fuga di prompt di sistema.
SageMaker per training, deployment e governance dei modelli
Amazon SageMaker rimane il percorso gestito principale quando sono richiesti pieno controllo del training, explainability e MLOps di livello production. Utilizzare SageMaker Training e istanze di training distribuito per dataset di grandi dimensioni, SageMaker Studio per lo sviluppo end-to-end e il Model Registry per il versioning. Per la previsione di serie temporali su molti SKU correlati, SageMaker DeepAR fornisce previsioni probabilistiche e funziona al meglio quando si dispone di molte serie simili e covariate. SageMaker Clarify aiuta a rilevare bias e a calcolare metriche di fairness, mentre SageMaker Model Monitor traccia il data drift e la qualità delle previsioni in produzione. Le trappole comuni includono lasciare notebook di Studio con permessi S3 troppo ampi, sottodimensionare i tipi di istanza per il training distribuito e saltare la tracciabilità della provenienza del dataset. I criteri decisionali tra Bedrock e SageMaker ruotano spesso attorno alle esigenze di personalizzazione, ai controlli normativi e all’explainability: scegliere Bedrock per prototipare rapidamente con FM di alta qualità e SageMaker quando si richiede tracciamento a livello di feature, spiegazioni SHAP, audit dei bias o ambienti di esecuzione privati senza accesso a Internet tramite endpoint VPC e gateway VPC di S3.
Strategie di retrieval, ingestione multimodale e grounding
Output affidabili e fattuali richiedono il grounding di corpora non strutturati con la Retrieval Augmented Generation. Ingerire documenti utilizzando Textract per moduli scansionati e OCR, Transcribe e Polly per pipeline vocali, Rekognition per l’analisi di immagini e i filtri di sicurezza, e Comprehend per l’estrazione di entità e il rilevamento di PII. Archiviare gli embedding vettoriali in un DB OpenSearch o in un DB vettoriale specializzato; utilizzare Amazon Kendra quando si necessita di una ricerca semantica gestita con connettori avanzati e ottimizzazione della pertinenza. Progettare chatbot con Bedrock per la generazione e Kendra o uno store di embedding per il recupero (retrieval), mentre Amazon Lex rimane utile per l’instradamento degli intent e il riempimento degli slot in flussi deterministici. Gli Agents for Bedrock sono utili per orchestrare l’utilizzo di strumenti, API esterne o ragionamenti multi-step, ma richiedono credenziali robuste e verificatori di strumenti per evitare azioni non sicure. Le insidie per gli operatori includono il non paginare corpora di grandi dimensioni, ignorare l’impatto della latenza di recupero sull’esperienza utente e non versionare l’indice di recupero; le decisioni dovrebbero bilanciare la freschezza dei dati, la cadenza di aggiornamento dell’indice e il costo dello storage vettoriale rispetto al rischio di allucinazioni.
Sicurezza, privacy, interpretabilità e valutazione
La sicurezza e la governance seguono un modello di responsabilità condivisa: AWS gestisce l’infrastruttura del servizio, ma il cliente deve classificare i dati, gestire i ruoli IAM, crittografare i dati con KMS e controllare l’accesso alla rete tramite endpoint VPC e PrivateLink. Per carichi di lavoro sensibili o regolamentati, eseguire SageMaker in un VPC senza accesso a Internet con endpoint gateway S3 e utilizzare le opzioni di networking privato di Bedrock. Implementare l’oscuramento automatizzato delle PII (Personally Identifiable Information) prima del training utilizzando il pre-processing con Comprehend e Textract, e considerare la privacy differenziale o la minimizzazione dei dati quando i set di dati contengono informazioni riservate. L’interpretabilità e il rilevamento dei bias richiedono strumenti come SageMaker Clarify, gli explainer SHAP e flussi di lavoro di revisione umana tramite Amazon Augmented AI per i casi limite. Monitorare i modelli con le metriche di Model Monitor come il feature drift, il prediction drift e controlli di fattualità personalizzati per le pipeline RAG. Gli errori comuni includono considerare sufficiente la sicurezza dei modelli pronti all’uso, non registrare prompt e risposte per l’audit e non conservare i set di dati di validazione con accesso controllato; le decisioni di governance dovrebbero includere policy di cancellazione e procedure di risposta agli incidenti per l’estrazione del modello o la fuga di dati.
Problema Pratico: Scenario d’Uso
Scenario: Nimbus Retail gestisce negozi fisici a livello globale e archivia i dati di vendita e le immagini dei prodotti in Amazon S3. Il loro ambiente AI su AWS include SageMaker Studio, l’accesso ad Amazon Bedrock, Amazon Kendra, OpenSearch Service e Amazon QuickSight per la BI.
Sfida: Nimbus ha bisogno di un assistente basato su LLM per generare descrizioni di prodotto contestuali e traduzioni localizzate, garantendo al contempo l’accuratezza fattuale, proteggendo i dati riservati di clienti e fornitori e producendo classifiche settimanali dei prodotti più venduti per i direttori dei negozi.
Approccio Raccomandato:
- Usare Amazon Textract per estrarre eventuali attributi strutturati dai documenti di prodotto e Rekognition per convalidare e taggare le immagini dei prodotti, archiviando gli asset “ripuliti” in un bucket S3 crittografato con KMS e ruoli IAM restrittivi.
- Costruire un indice di embedding in OpenSearch o in un vector store gestito, popolato da embedding provenienti da un encoder di Bedrock; usare Kendra per il recupero semantico di documenti di policy e specifiche.
- Implementare una pipeline RAG: usare Bedrock per la generazione con contesto recuperato, applicare un filtro di fattualità utilizzando Comprehend e query di verifica personalizzate sul corpus indicizzato, e registrare tutti i prompt e le risposte in CloudTrail e in un bucket S3 di audit.
- Produrre grafici settimanali con Amazon QuickSight, alimentato dalle vendite aggregate ottenute da query Athena sul data lake S3, ed esporre le descrizioni generate dal modello tramite un endpoint SageMaker per il consumo da parte della UX, con revisione umana tramite A2I per le modifiche ad alto impatto.
Motivazione: Questo approccio fonda gli output generativi sul recupero e sulla verifica dei documenti per ridurre le allucinazioni, protegge i dati in S3 crittografato con accesso basato sul principio del privilegio minimo (least-privilege) e separa le responsabilità utilizzando servizi gestiti per l’indicizzazione, la generazione e la BI, al fine di bilanciare velocità, governance e accuratezza.
← Concetti di AI Generativa · Tutti i domini · AI Responsabile e Governance →
Esercitati su queste domande → · Pratica cronometrata su ExamRoll.io →
Pass the whole exam — not just this question
You found this answer. Get every verified question and explanation in one place, and save hours of prep. Free to start.
Supera l'esame →