Amazon MLA-C01: IA Generativa e Modelos Fundacionais — Guia de estudos
Faz parte do AWS Machine Learning Engineer Associate MLA-C01 — Guia de estudos. Pratique com respostas verificadas no centro de exames da Amazon, ou faça testes cronometrados no ExamRoll.io.
Conceito principal
Modelos de fundação (foundation models) são grandes redes pré-treinadas — geralmente baseadas em transformers — que fornecem representações de propósito geral para linguagem, visão ou multimodais. A produção prática requer transformar essas capacidades amplas em comportamentos específicos da aplicação por meio de três alavancas ortogonais: engenharia de prompts em tempo de inferência, geração aumentada por recuperação (RAG) para basear as saídas em conhecimento atualizado ou específico do domínio, e personalização do modelo através de ajuste fino (fine-tuning) ou técnicas de eficiência de parâmetros. O Amazon Bedrock fornece um caminho gerenciado para invocar modelos de fundação de terceiros e da Amazon por meio de uma API unificada, abstraindo a seleção do modelo enquanto preserva o controle das entradas, dos parâmetros do modelo (temperature, top_p, max_output_tokens) e do tratamento da resposta. O SageMaker JumpStart complementa o Bedrock ao empacotar artefatos de modelos pré-treinados, scripts de treinamento e receitas de ajuste fino que rodam em contêineres do SageMaker Training ou do Hugging Face, permitindo fluxos de trabalho de adaptação reprodutíveis e integração com o registro de modelos.
O ajuste fino (fine-tuning) vem em diferentes tipos que equilibram as necessidades de computação e de conjunto de dados com a fidelidade da adaptação. O ajuste fino completo (full fine-tuning) atualiza todos os pesos do modelo e geralmente produz o melhor desempenho para tarefas específicas, mas exige grandes frotas de GPUs e armazenamento para checkpoints. Técnicas de ajuste fino com eficiência de parâmetros (PEFT), como LoRA (adaptadores de baixo ranque), módulos adaptadores ou QLoRA (adaptadores de baixo ranque quantizados), reduzem drasticamente a memória e o tempo de GPU ao injetar e treinar um pequeno número de parâmetros adicionais, compatíveis com o treinamento no SageMaker usando Hugging Face e bitsandbytes para quantização de 8 ou 4 bits. O aprendizado por reforço com feedback humano (RLHF) é um pipeline mais complexo: coletar rótulos de preferência humana em pares, treinar um modelo de recompensa (uma etapa de aprendizado supervisionado usando o SageMaker Training e um ModelPackage) e otimizar o modelo de política com RL on-policy (PPO ou similar), enquanto armazena rollouts e checkpoints no S3 e monitora os sinais de recompensa com o SageMaker Debugger.
As arquiteturas RAG conectam modelos de fundação a corpora atualizados para reduzir alucinações. O pipeline RAG típico vetoriza o texto da consulta com um modelo de embeddings (API de Embeddings do Bedrock ou um vetorizador do SageMaker Hugging Face), realiza uma busca de vetores por vizinhos mais próximos em um índice (Amazon OpenSearch Service com k-NN, Amazon Kendra ou bancos de dados de vetores de terceiros), recupera os k principais documentos e condiciona o LM com o contexto recuperado por meio de templates de prompt e parâmetros de decodificação controlados. Gerenciar a atualidade e a relevância requer reingestão e reindexação periódica das fontes usando o AWS Glue, o AWS Lambda para atualizações de streaming ou o AWS DMS para fontes transacionais, e o armazenamento de metadados de proveniência (source_id, document_id, ingestion_time) junto com os vetores para fins de auditoria.
Principais serviços e configuração
O Amazon Bedrock expõe a API InvokeModel, onde as requisições incluem o identificador do modelo e parâmetros de tempo de execução: passe os cabeçalhos modelId, contentType e accept, o body contendo prompts ou inputText, e modelParameters como temperature, topP e maxOutputTokens. Use mensagens estruturadas de sistema e de usuário para separar instruções baseadas em papéis e restringir os formatos de saída; imponha sequências de parada e max_output_tokens para limitar a latência e o custo. Para a geração de embeddings, use o endpoint de embeddings do Bedrock ou um contêiner de inferência do SageMaker Hugging Face e persista os vetores no OpenSearch, Kendra ou em um banco de dados de vetores externo.
O SageMaker JumpStart fornece notebooks pré-construídos e pipelines de ajuste fino que se conectam ao CreateTrainingJob com parâmetros de API concretos: TrainingJobName, AlgorithmSpecification (TrainingImage, TrainingInputMode), RoleArn, InputDataConfig (S3Uri, DataSource), OutputDataConfig (S3OutputPath), ResourceConfig (InstanceType, InstanceCount, VolumeSizeInGB) e StoppingCondition (MaxRuntimeInSeconds). Para governança de modelos, use o SageMaker Model Registry e CreateModelPackage/CreateModelPackageGroup com o ApprovalStatus definido como “PendingManualApproval”; integre a promoção de modelos ao CI/CD usando o atributo ApprovalStatus junto com o AWS CodePipeline ou AWS Step Functions e uma ação de ManualApproval para controlar as implantações. Para monitoramento contínuo e detecção de viés, implante o SageMaker Model Monitor via CreateMonitoringSchedule com MonitoringScheduleConfig e BaselineConfig; use o SageMaker Clarify por meio das APIs de ProcessingJob (ClarifyProcessor.run_pre_training_bias e run_post_training_bias) para calcular métricas de viés do conjunto de dados e produzir baselines armazenados no S3.
Para busca de vetores e RAG, escolha a tecnologia de indexação e busca com base na escala e na latência da consulta. O Amazon OpenSearch Service suporta o plugin k-NN e fornece APIs REST e controle de acesso refinado; o Amazon Kendra oferece busca semântica empresarial com conectores para S3, SharePoint e RDS. Use crawlers do AWS Glue para construir um Data Catalog central e o AWS Lake Formation para impor controle de acesso refinado e isolamento dos dados de treinamento no S3, garantindo que IAM, políticas de bucket e criptografia (SSE-S3 ou SSE-KMS) sejam aplicados.
Padrões de design e trade-offs
Ao personalizar foundation models, decida entre o ajuste fino (fine-tuning) offline e a engenharia de prompt em tempo de execução. O ajuste fino completo maximiza o desempenho para tarefas específicas, mas aumenta a complexidade operacional: os trabalhos de treinamento exigem grandes frotas de GPUs, treinamento distribuído em vários nós (use SageMaker DistributedDataParallel ou Horovod no modo Script), checkpointing para o S3 via UploadDirectory e, posteriormente, quantização e conversão para uma inferência eficiente. Abordagens de PEFT, como o LoRA, mantêm a maioria dos pesos do modelo congelados, reduzindo drasticamente o tempo de treinamento, permitindo varreduras de hiperparâmetros mais baratas e simplificando o rollback, pois o modelo base permanece intacto. Para a inferência, os endpoints gerenciados pelo Bedrock aliviam a carga operacional para FMs de terceiros, enquanto os endpoints em tempo real do SageMaker oferecem um controle mais profundo: use MultiModelEndpoints para servir vários modelos a partir de uma única instância, Serverless Inference para tráfego imprevisível, ou endpoints provisionados com auto-scaling e concorrência provisionada para reduzir cold starts.
O RAG introduz complexidade em manter o índice atualizado e em equilibrar a recuperação (retrieval) versus a alucinação. Um padrão simples é a recuperação híbrida: primeiro execute uma busca vetorial (semântica) e, em seguida, um filtro de palavras-chave para garantir a precisão. Armazene metadados dos fragmentos de documentos (chunks) para que a etapa de geração possa citar fontes e facilitar as verificações do Model Monitor quanto à frequência de alucinações. Para aplicações sensíveis à latência, coloque a computação de embeddings e o índice no mesmo local (inferência do SageMaker + OpenSearch na mesma VPC) e use a indexação por vizinho mais próximo aproximado (ANN) para trocar recall por velocidade.
O RLHF tem alto atrito (high-friction), mas é necessário quando o alinhamento com valores humanos ou a segurança são necessários. O pipeline exige ferramentas para anotação, treinamento de recompensa reprodutível com as APIs do SageMaker Estimator e otimizadores de RL estáveis (implementações de PPO nas famílias RLlib ou Stable Baselines). O custo e a instabilidade do RLHF devem ser ponderados em relação à capacidade de corrigir comportamentos que não podem ser codificados como uma perda estática.
Armadilhas comuns e critérios de decisão
Um erro frequente é confiar apenas em prompts para corrigir erros sistemáticos que exigem adaptação no nível do modelo; os prompts podem ajudar, mas não substituem o ajuste fino (fine-tuning) ou o RAG para fundamentação de domínio. Outra armadilha é subestimar a governança: colocar sistemas generativos em produção requer linhagem do modelo (SageMaker Model Registry), detecção automática de desvio (drift) (linhas de base do Model Monitor e Clarify) e um fluxo de trabalho de aprovação (ApprovalStatus + aprovação manual do CodePipeline). Para armazenamentos de embeddings, escolher um índice vetorial sem metadados ou procedência torna as auditorias e análises de erros posteriores caras.
Decida sobre a hospedagem do modelo equilibrando o controle versus a sobrecarga operacional. Use o Bedrock quando desejar acesso gerenciado a modelos de base (foundation models) diversificados e de alto desempenho, sem gerenciar a frota de inferência. Use endpoints do SageMaker quando precisar de pilhas de inferência personalizadas, isolamento de VPC ou integração total com o Model Registry e o Model Monitor. Para métodos de ajuste fino, selecione PEFT quando o tamanho do conjunto de dados for modesto e a iteração rápida for importante; escolha o ajuste fino completo quando o domínio exigir uma mudança representacional profunda e você tiver orçamento de GPU.
Problema Prático: Cenário de Caso de Uso
Empresa fictícia: AuroraPayments — desafio: implantar um assistente de detecção de fraudes auditável e de baixa latência que sintetiza o contexto de transações e documentos de políticas para explicar pontuações suspeitas e suporta atualizações controladas do modelo.
Agregação e armazenamento de dados: use o AWS Glue para rastrear logs de transação do S3 e configure o AWS DMS para replicar tabelas MySQL on-premise para o Amazon RDS ou S3. Registre todas as fontes no AWS Glue Data Catalog e aplique políticas do Lake Formation. Justificativa: O Glue fornece ETL sem servidor e um catálogo unificado para recuperação downstream, e o Lake Formation impõe o isolamento de acesso ao S3.
Engenharia de características e detecção de anomalias: ingira características no SageMaker Feature Store para consistência offline/online. Execute detecção automatizada de anomalias usando o Amazon Lookout for Metrics em séries temporais de transações e exiba dashboards no Amazon QuickSight. Justificativa: O Feature Store garante características reproduzíveis para treinamento e serviço (serving); o Lookout for Metrics automatiza a detecção de anomalias e o QuickSight fornece visualização para analistas de negócios.
Treinamento do modelo e tratamento de desbalanceamento: treine um classificador XGBoost usando o XGBoost integrado do SageMaker com hiperparâmetros e defina
scale_pos_weightcomo (num_negativas/num_positivas) para corrigir o desbalanceamento de classes. Use oCreateTrainingJobdo SageMaker Training com oResourceConfigajustado para o tamanho do treinamento e habilite o checkpointing no S3 para tolerância a falhas. Justificativa: O XGBoost é eficaz para tarefas de fraude com dados tabulares; oscale_pos_weightexige sobrecarga operacional mínima em comparação com a sobreamostragem sintética (synthetic oversampling).Registro, aprovação e implantação do modelo: registre os artefatos do modelo no SageMaker Model Registry com
CreateModelPackage/ModelPackageGroupNamee defina oApprovalStatuscomo “PendingManualApproval”. Implemente um CodePipeline que aciona uma ação de aprovação e, em seguida, implanta as versões aprovadas em endpoints de tempo real do SageMaker com MultiModel endpoints ou Provisioned Instances por trás do Auto Scaling. Justificativa: O Model Registry mantém o versionamento central e a Governança; a aprovação manual via CodePipeline impõe liberações autorizadas.Explicabilidade e RAG para fundamentação em políticas: crie embeddings de documentos de políticas com o Bedrock ou um “embedder” Hugging Face no SageMaker, indexe-os no k-NN do Amazon OpenSearch com metadados e implemente um fluxo RAG onde um prompt de transação suspeita inclui os top-k trechos de política recuperados, além de um template que instrui o modelo de base a citar fontes e gerar uma explicação legível por humanos. Justificativa: O RAG fundamenta as explicações em documentos oficiais e o OpenSearch fornece busca vetorial escalável dentro do perímetro de segurança.
Monitoramento e retreinamento: habilite o SageMaker Model Monitor com uma linha de base da validação inicial e agende
ProcessingJobsdo Clarify sob demanda para executar verificações de viés (bias) pós-implantação. Se o Model Monitor sinalizar um desvio (drift) (mudança na distribuição das características ou alterações nos rótulos), acione um SageMaker Pipeline que executa a ingestão de dados, retreina com ajuste fino LoRA se estiver usando um codificador de modelo de base para características textuais, avalia e coloca o novo modelo no registro comoPendingManualApproval. Justificativa: O monitoramento contínuo com pipelines automatizados mantém o desempenho e a conformidade do modelo sob controle, preservando o controle manual sobre as alterações em produção.
← Segurança · Todos os domínios · Otimização de Custos para Workloads de ML →
Pratique estas questões → · Prática cronometrada no ExamRoll.io →
Pass the whole exam — not just this question
You found this answer. Get every verified question and explanation in one place, and save hours of prep. Free to start.
Passe no seu exame →