Amazon MLA-C01: 생성형 AI 및 파운데이션 모델 — 학습 가이드

By Laurynas Brazys · 4 August 2026 · #amazon #mla-c01 #certification #exam-prep #study-guide

다음의 일부입니다: AWS Machine Learning Engineer Associate MLA-C01 — 학습 가이드. 검증된 답안으로 연습하기: Amazon 시험 허브, 또는 다음에서 시간 제한 모의고사 풀기: ExamRoll.io.

핵심 개념

파운데이션 모델은 대규모 사전 학습된 네트워크로, 일반적으로 트랜스포머 기반이며 범용적인 언어, 비전 또는 멀티모달 표현을 제공합니다. 실제 프로덕션 환경에 적용하려면 이러한 광범위한 기능을 세 가지 독립적인 수단, 즉 추론 시점의 프롬프트 엔지니어링, 최신 또는 도메인별 지식에 출력을 근거하게 하는 검색 증강 생성(RAG), 그리고 미세 조정(fine-tuning)이나 파라미터 효율적 기법을 통한 모델 맞춤화를 통해 애플리케이션별 동작으로 전환해야 합니다. Amazon Bedrock은 통합 API를 통해 서드파티 및 Amazon이 제공하는 파운데이션 모델을 호출하는 관리형 경로를 제공하며, 입력, 모델 파라미터(temperature, top_p, max_output_tokens), 응답 처리에 대한 제어권을 유지하면서 모델 선택을 추상화합니다. SageMaker JumpStart는 SageMaker Training 또는 Hugging Face 컨테이너에서 실행되는 사전 학습된 모델 아티팩트, 학습 스크립트, 미세 조정 레시피를 패키징하여 Bedrock을 보완하며, 재현 가능한 적응 워크플로우와 모델 레지스트리 통합을 가능하게 합니다.

미세 조정은 적응의 충실도와 컴퓨팅 및 데이터셋 요구 사항을 맞바꾸는 여러 가지 방식으로 제공됩니다. 전체 미세 조정(Full fine-tuning)은 모든 모델 가중치를 업데이트하며 종종 가장 높은 특정 태스크 성능을 내지만, 체크포인트를 위한 대규모 GPU 집합과 스토리지가 필요합니다. LoRA(저순위 어댑터), 어댑터 모듈, 또는 QLoRA(양자화된 저순위 어댑터)와 같은 파라미터 효율적 미세 조정(PEFT) 기법은 소수의 추가 파라미터를 주입하고 학습시켜 GPU 메모리와 시간을 대폭 줄여줍니다. 이는 Hugging Face와 8비트/4비트 양자화를 위한 bitsandbytes를 사용하는 SageMaker 학습과 호환됩니다. 인간 피드백 기반 강화 학습(RLHF)은 더 복잡한 파이프라인입니다. 쌍으로 구성된 인간 선호도 레이블을 수집하고, 보상 모델을 학습시킨 후(SageMaker Training 및 ModelPackage를 사용하는 지도 학습 단계), S3에 롤아웃과 체크포인트를 저장하고 SageMaker Debugger로 보상 신호를 모니터링하면서 온-폴리시 RL(PPO 등)로 정책 모델을 최적화합니다.

RAG 아키텍처는 파운데이션 모델과 최신 말뭉치를 연결하여 환각(hallucination)을 줄입니다. 일반적인 RAG 파이프라인은 임베딩 모델(Bedrock Embeddings API 또는 SageMaker Hugging Face 임베더)로 쿼리 텍스트를 임베딩하고, 인덱스(k-NN을 사용하는 Amazon OpenSearch Service, Amazon Kendra 또는 서드파티 벡터 DB)에서 최근접 이웃 벡터 검색을 수행하며, 상위 k개의 문서를 검색한 후, 프롬프트 템플릿과 제어된 디코딩 파라미터를 통해 검색된 컨텍스트로 언어 모델(LM)을 조건화합니다. 최신성과 관련성을 관리하려면 AWS Glue, 스트리밍 업데이트를 위한 AWS Lambda, 또는 트랜잭션 소스를 위한 AWS DMS를 사용하여 소스를 주기적으로 재수집하고 재인덱싱해야 하며, 감사 가능성을 위해 출처 메타데이터(source_id, document_id, ingestion_time)를 벡터와 함께 저장해야 합니다.

주요 서비스 및 구성

Amazon Bedrock은 InvokeModel API를 노출하며, 요청에는 모델 식별자와 런타임 파라미터가 포함됩니다. modelId, contentType 및 accept 헤더, 프롬프트나 inputText를 포함하는 body, 그리고 temperature, topP, maxOutputTokens와 같은 modelParameters를 전달합니다. 구조화된 시스템 및 사용자 메시지를 사용하여 역할 기반 지침을 분리하고 출력 형식을 제한하며, 중지 시퀀스와 max_output_tokens를 강제하여 지연 시간과 비용을 제한합니다. 임베딩 생성을 위해서는 Bedrock 임베딩 엔드포인트 또는 SageMaker Hugging Face 추론 컨테이너를 사용하고, 벡터를 OpenSearch, Kendra 또는 외부 벡터 DB에 영구 저장합니다.

SageMaker JumpStart는 사전 구축된 노트북과 미세 조정 파이프라인을 제공하며, 이는 구체적인 API 파라미터와 함께 CreateTrainingJob에 연결됩니다: TrainingJobName, AlgorithmSpecification(TrainingImage, TrainingInputMode), RoleArn, InputDataConfig(S3Uri, DataSource), OutputDataConfig(S3OutputPath), ResourceConfig(InstanceType, InstanceCount, VolumeSizeInGB), 그리고 StoppingCondition(MaxRuntimeInSeconds). 모델 거버넌스를 위해서는 SageMaker Model Registry와 CreateModelPackage/CreateModelPackageGroup을 사용하고 ApprovalStatus를 “PendingManualApproval"로 설정합니다. AWS CodePipeline 또는 AWS Step Functions와 ManualApproval 작업을 함께 ApprovalStatus 속성을 사용하여 배포를 제어함으로써 모델 승격을 CI/CD에 통합합니다. 지속적인 모니터링 및 편향 탐지를 위해서는 MonitoringScheduleConfig 및 BaselineConfig와 함께 CreateMonitoringSchedule을 통해 SageMaker Model Monitor를 배포합니다. ProcessingJob API(ClarifyProcessor.run_pre_training_bias 및 run_post_training_bias)를 통해 SageMaker Clarify를 사용하여 데이터셋 편향 지표를 계산하고 S3에 저장될 기준선을 생성합니다.

벡터 검색 및 RAG의 경우, 규모와 쿼리 지연 시간을 기준으로 인덱싱 및 검색 기술을 선택합니다. Amazon OpenSearch Service는 k-NN 플러그인을 지원하며 REST API와 세분화된 액세스 제어를 제공합니다. Amazon Kendra는 S3, SharePoint, RDS용 커넥터를 갖춘 엔터프라이즈 시맨틱 검색을 제공합니다. AWS Glue 크롤러를 사용하여 중앙 데이터 카탈로그를 구축하고, AWS Lake Formation을 사용하여 S3 학습 데이터에 대한 세분화된 액세스 제어 및 격리를 시행하여 IAM, 버킷 정책, 암호화(SSE-S3 또는 SSE-KMS)가 적용되도록 보장합니다.

설계 패턴 및 트레이드오프

파운데이션 모델을 커스터마이징할 때는 오프라인 파인튜닝과 런타임 프롬프트 엔지니어링 사이에서 결정해야 합니다. 전체 파인튜닝은 특정 작업에 대한 성능을 극대화하지만 운영 복잡성을 증가시킵니다. 학습 작업에는 대규모 GPU 플릿, 다중 노드 분산 학습(Script Mode에서 SageMaker DistributedDataParallel 또는 Horovod 사용),

undefined

를 통한 S3로의 체크포인팅, 그리고 효율적인 추론을 위한 후속 양자화 및 변환이 필요합니다. LoRA와 같은 PEFT 접근 방식은 대부분의 모델 가중치를 고정(frozen)시켜 학습 시간을 크게 단축하고, 더 저렴한 비용으로 하이퍼파라미터 탐색을 가능하게 하며, 기본 모델이 그대로 유지되므로 롤백을 단순화합니다. 추론의 경우, Bedrock 관리형 엔드포인트는 서드파티 FM의 운영 부담을 덜어주는 반면, SageMaker 실시간 엔드포인트는 더 세밀한 제어를 제공합니다. 단일 인스턴스에서 여러 모델을 서빙하려면 MultiModelEndpoints를, 예측할 수 없는 트래픽에는 Serverless Inference를, 콜드 스타트를 줄이려면 auto-scaling 및 프로비저닝된 동시성(provisioned concurrency)을 갖춘 프로비저닝된 엔드포인트를 사용합니다.

RAG는 인덱스를 최신 상태로 유지하고 검색(retrieval)과 환각(hallucination) 사이의 균형을 맞추는 데 복잡성을 더합니다. 간단한 패턴은 하이브리드 검색입니다. 먼저 벡터 검색(시맨틱)을 실행한 다음 키워드 필터를 적용하여 정확도를 보장합니다. 생성 단계에서 출처를 인용하고 Model Monitor가 환각 빈도를 확인하는 것을 용이하게 하도록 문서 청크 메타데이터를 저장합니다. 지연 시간에 민감한 애플리케이션의 경우, 임베딩 계산과 인덱스를 동일한 위치에 배치하고(동일 VPC 내 SageMaker 추론 + OpenSearch) 재현율(recall)을 속도와 맞바꾸기 위해 근사 최근접 이웃(ANN) 인덱싱을 사용합니다.

RLHF는 마찰이 크지만(high-friction) 인간의 가치나 안전성에 대한 정렬(alignment)이 필요할 때 필수적입니다. 이 파이프라인은 주석(annotation)을 위한 도구, SageMaker Estimator API를 사용한 재현 가능한 보상 모델 학습, 그리고 안정적인 RL 옵티마이저(RLlib 또는 Stable Baselines 계열의 PPO 구현)가 필요합니다. RLHF의 비용과 불안정성은 정적 손실(static loss)로 인코딩할 수 없는 동작을 수정하는 능력과 비교하여 신중하게 고려해야 합니다.

일반적인 함정과 의사결정 기준

모델 수준의 적응이 필요한 시스템적 오류를 해결하기 위해 프롬프트에만 의존하는 것은 흔한 실수입니다. 프롬프트가 도움이 될 수는 있지만, 도메인 지식 주입(domain grounding)을 위한 파인튜닝이나 RAG를 대체할 수는 없습니다. 또 다른 함정은 거버넌스를 과소평가하는 것입니다. 생성형 시스템을 프로덕션 환경에 배포하려면 모델 계보(SageMaker Model Registry), 자동 드리프트 탐지(Model Monitor 기준선 및 Clarify), 승인 워크플로우(ApprovalStatus + CodePipeline 수동 승인)가 필요합니다. 임베딩 스토어의 경우, 메타데이터나 출처(provenance) 정보가 없는 벡터 인덱스를 선택하면 나중에 감사 및 오류 분석에 많은 비용이 들게 됩니다.

모델 호스팅은 제어 수준과 운영 오버헤드 사이의 균형을 맞춰 결정해야 합니다. 추론 플릿(fleet)을 직접 관리하지 않으면서 다양하고 성능 좋은 파운데이션 모델에 대한 관리형 액세스를 원할 때는 Bedrock을 사용합니다. 사용자 지정 추론 스택, VPC 격리, 또는 Model Registry 및 Model Monitor와의 완전한 통합이 필요할 때는 SageMaker 엔드포인트를 사용합니다. 파인튜닝 방법의 경우, 데이터셋 크기가 적당하고 빠른 반복이 중요할 때는 PEFT를 선택하고, 도메인이 깊은 표현상의 변화를 요구하며 GPU 예산이 충분할 때는 전체 파인튜닝(full fine-tuning)을 선택합니다.

실용적인 문제: 사용 사례 시나리오

회사명: AuroraPayments — 과제: 트랜잭션 컨텍스트와 정책 문서를 종합하여 의심스러운 점수를 설명하고, 통제된 모델 업데이트를 지원하는 지연 시간이 짧고 감사 가능한 사기 탐지 어시스턴트를 배포합니다.

데이터 집계 및 저장: AWS Glue를 사용하여 S3 트랜잭션 로그를 크롤링하고, AWS DMS를 설정하여 온프레미스 MySQL 테이블을 Amazon RDS 또는 S3로 복제합니다. 모든 소스를 AWS Glue Data Catalog에 등록하고 Lake Formation 정책을 적용합니다. 근거: Glue는 서버리스 ETL과 다운스트림 검색을 위한 통합 카탈로그를 제공하며, Lake Formation은 S3 액세스 격리를 강제합니다.
피처 엔지니어링 및 이상 탐지: 오프라인/온라인 일관성을 위해 SageMaker Feature Store에 피처를 수집합니다. Amazon Lookout for Metrics를 사용하여 트랜잭션 시계열에 대한 자동 이상 탐지를 실행하고 Amazon QuickSight에서 대시보드를 표시합니다. 근거: Feature Store는 훈련 및 서빙을 위한 재현 가능한 피처를 보장하고, Lookout for Metrics는 이상 탐지를 자동화하며, QuickSight는 비즈니스 분석가를 위한 시각화를 제공합니다.
모델 훈련 및 불균형 처리: SageMaker 내장 XGBoost를 사용하여 하이퍼파라미터와 함께 XGBoost 분류기를 훈련하고, 클래스 불균형을 보정하기 위해 scale_pos_weight를 (num_negative/num_positive)로 설정합니다. 훈련 크기에 맞게 조정된 ResourceConfig와 함께 SageMaker Training CreateTrainingJob을 사용하고, 내결함성을 위해 S3 체크포인팅을 활성화합니다. 근거: XGBoost는 테이블 형식의 사기 탐지 작업에 효과적이며, scale_pos_weight는 합성 오버샘플링에 비해 최소한의 운영 오버헤드만 필요합니다.
모델 레지스트리, 승인 및 배포: CreateModelPackage/ModelPackageGroupName을 사용하여 SageMaker Model Registry에 모델 아티팩트를 등록하고 ApprovalStatus를 “PendingManualApproval"로 설정합니다. 승인 작업을 트리거하는 CodePipeline을 구현한 다음, 승인된 버전을 MultiModel 엔드포인트 또는 Auto Scaling 뒤의 Provisioned Instances를 사용하여 SageMaker 실시간 엔드포인트에 배포합니다. 근거: Model Registry는 중앙 집중식 버전 관리 및 거버넌스를 유지하고, CodePipeline을 통한 수동 승인은 승인된 릴리스를 강제합니다.
설명 가능성 및 정책 기반을 위한 RAG: Bedrock 또는 SageMaker Hugging Face 임베더를 사용하여 정책 문서의 임베딩을 생성하고, 이를 메타데이터와 함께 Amazon OpenSearch k-NN에 인덱싱합니다. 의심스러운 트랜잭션 프롬프트에 상위 k개의 검색된 정책 스니펫과 함께, 파운데이션 모델이 출처를 인용하고 사람이 읽을 수 있는 설명을 생성하도록 지시하는 템플릿을 포함하는 RAG 흐름을 구현합니다. 근거: RAG는 신뢰할 수 있는 문서에 기반한 설명을 제공하고, OpenSearch는 보안 경계 내에서 확장 가능한 벡터 검색을 제공합니다.
모니터링 및 재훈련: 초기 검증에서 얻은 기준선으로 SageMaker Model Monitor를 활성화하고, 배포 후 편향 검사를 실행하기 위해 주문형 Clarify ProcessingJobs를 예약합니다. Model Monitor가 드리프트(피처의 분포 변화 또는 레이블 변화)를 감지하면, 데이터 수집을 실행하고, 텍스트 피처에 파운데이션 모델 인코더를 사용하는 경우 LoRA 파인튜닝으로 재훈련하고, 평가한 후, 새 모델을 PendingManualApproval 상태로 레지스트리에 배치하는 SageMaker Pipeline을 트리거합니다. 근거: 자동화된 파이프라인을 통한 지속적인 모니터링은 프로덕션 변경에 대한 수동 제어를 유지하면서 모델 성능과 규정 준수를 유지합니다.

← 보안 · 모든 도메인 · ML 워크로드를 위한 비용 최적화 →

이 문제 연습하기 → · ExamRoll.io에서 시간 제한 연습 →