Amazon AIF-C01: 생성형 AI 개념 — 학습 가이드

By Laurynas Brazys · 31 July 2026 · #amazon #aif-c01 #certification #exam-prep #study-guide

다음의 일부입니다: AWS AI Practitioner AIF-C01 — 학습 가이드. 검증된 답안으로 연습하기: Amazon 시험 허브, 또는 다음에서 시간 제한 모의고사 풀기: ExamRoll.io.

파운데이션 모델, 토큰, 임베딩, 멀티모달 기본 사항

파운데이션 모델은 텍스트, 이미지 및 기타 모달리티에 걸쳐 강력한 범용 기능을 제공하는 대규모 사전 훈련된 신경망입니다. AWS를 통해 사용할 수 있는 예시로는 Titan 및 다른 공급업체 모델에 대한 Amazon Bedrock의 액세스, 그리고 사용자 지정 모델을 훈련하고 호스팅하기 위한 SageMaker 환경이 있습니다. 토큰은 LLM이 입력과 출력에 사용하는 가장 작은 단위인 하위 단어(subword) 또는 문자이며, 토큰화는 컨텍스트 창 사용량, 비용, 잘림(truncation) 위험을 결정합니다. 임베딩은 의미적 의미를 인코딩하는 밀집된 숫자 벡터로, 유사도 검색, 클러스터링, 다운스트림 검색을 위한 접착제 역할을 합니다. 임베딩은 Bedrock 모델이나 SageMaker에 호스팅된 모델로 생성할 수 있습니다. 멀티모달 모델은 텍스트, 이미지, 오디오를 입력받아 연결합니다. 일반적인 AWS 구성 요소로는 시각적 특징 추출을 위한 Amazon Rekognition, 스캔된 문서를 위한 Amazon Textract, 오디오-텍스트 변환을 위한 Amazon Transcribe가 있으며, 모달리티를 융합하는 데는 Bedrock 또는 SageMaker 모델이 사용됩니다. 실무자가 고려해야 할 주요 트레이드오프는 파운데이션 모델 미세 조정(더 높은 비용, 더 긴 리드 타임, 더 나은 작업 정렬)과 프롬프트 엔지니어링 및 RAG(더 빠르고, 저렴하며, 데이터 프라이버시 측면에서 더 안전함) 중에서 선택하는 것입니다. 흔히 저지르는 실수로는 프롬프트 구성 시 토큰 제한을 무시하는 것, 임베딩이나 인덱스를 버전 관리하지 않는 것, 이미지 및 문서 입력에 대한 전처리 요구 사항을 과소평가하는 것 등이 있습니다.

프롬프트 엔지니어링, 모델 제어, 추론 기법

프롬프트 엔지니어링은 신뢰할 수 있는 출력을 얻기 위해 지침과 컨텍스트를 구조화하는 것입니다. 효과적인 프롬프트는 시스템 지침(역할, 가드레일), 사용자 콘텐츠, 선택적인 퓨샷(few-shot) 예제를 분리합니다. 간결한 시스템 프롬프트를 사용하여 스타일, 제약 조건, 출력 형식을 정의하고, 편차(drift)를 방지하기 위해 정식 템플릿을 저장하십시오. Bedrock 또는 SageMaker에서 temperature, top-p, max_tokens와 같은 추론 파라미터를 튜닝하면 창의성과 결정성(determinism)에 영향을 미칩니다. temperature를 낮추고 top-p를 좁히면 창의성을 희생하는 대신 더 일관된 답변을 얻을 수 있습니다. 추론 기법으로는 연쇄적 사고(Chain-of-thought, 다단계 작업 개선을 위한 명시적인 중간 추론 과정), 자기 일관성(Self-consistency, 여러 추론 경로를 샘플링하고 종합), 검증 루프(모델에게 출처를 확인하거나 인용하도록 요청) 등이 있습니다. 흔히 저지르는 실수로는 프롬프트 인젝션(신뢰할 수 없는 입력이 시스템 동작을 변경), 의도보다는 스타일에 과적합(overfit)되는 취약한 퓨샷 예제, 감사 가능성을 위해 프롬프트를 로깅하지 않는 것 등이 있습니다. 기법 선택을 위한 결정 기준: 투명성이 중요하고 복잡한 추론이 필요할 때 연쇄적 사고를 사용하되, 결과가 실제 세계에 영향을 미칠 때는 검증을 추가하십시오. 프로덕션 환경의 UI에서는 반복성을 보장하기 위해 결정론적 설정을 선호합니다.

검색 증강 생성(RAG), 벡터 스토어, 에이전트, 아키텍처

RAG는 검색 계층과 생성 모델을 결합합니다. 즉, 문서를 인덱싱하고, 임베딩을 계산하고, 유사도 검색을 수행하여 컨텍스트를 검색한 다음, 검색된 구절을 기반으로 LLM을 조건화합니다. AWS에서 문서 소스는 일반적으로 Amazon S3에 저장되고, 추출에는 Textract 또는 사용자 지정 파이프라인을 사용하며, 임베딩은 Bedrock 또는 SageMaker를 통해 생성됩니다. 벡터는 k-NN을 사용하는 Amazon OpenSearch Service나 DynamoDB 또는 OpenSearch 위에 계층화된 전문 벡터 스토어에 저장됩니다. 엔터프라이즈 시맨틱 검색 및 커넥터가 필요한 경우 Amazon Kendra를 사용할 수 있습니다. 에이전트는 도구(검색, 데이터베이스 쿼리, 계산기 등)를 언제 호출할지 결정하는 LLM 기반 컨트롤러로, AWS Lambda 또는 Step Functions로 모델 호출을 오케스트레이션하여 도구를 안전하게 실행하는 방식으로 구현할 수 있습니다. 아키텍처 패턴으로는 챗봇을 위한 동기식 RAG와 요약 작업을 위한 비동기식 배치 RAG(대규모 코퍼스 전처리를 위해 Athena 또는 EMR 사용)가 있습니다. 실무자가 저지르는 실수로는 오래된 인덱스(임베딩을 새로 고치지 않음), 토큰 창을 초과하는 긴 컨텍스트를 과도하게 포함하는 것, 검색된 콘텐츠에 대한 출처(provenance) 링크를 포함하지 않는 것 등이 있습니다. 커넥터, 보안, 시맨틱 랭킹 필요 여부에 따라 Kendra와 OpenSearch 중에서 선택하십시오.

환각(Hallucination), 편향(bias), 설명 가능성(explainability), 모니터링 및 거버넌스

환각(Hallucination)은 모델이 그럴듯하게 들리지만 사실이 아닌 내용을 만들어낼 때 발생합니다. 완화 전략으로는 응답을 특정 정보에 기반하게 하는 RAG(검색 증강 생성), 검색된 소스의 명시적 인용, 결과물을 팩트체크하는 검증 모델, 고위험 도메인에 대한 human-in-the-loop 리뷰 등이 있습니다. 편향(Bias)은 치우친 훈련 데이터나 레이블 분포로 인해 발생합니다. Amazon SageMaker Clarify를 사용하여 데이터셋 편향을 탐지하고, 피처 중요도를 검토하며, 설명 가능성 아티팩트를 생성할 수 있습니다. 모델 성능 및 드리프트(drift)를 관리하기 위해 Amazon SageMaker Model Monitor를 배포하여 데이터 및 예측 드리프트를 탐지하고, 추론 입/출력을 감사 목적으로 CloudWatch 및 S3에 로깅하며, 프롬프트와 검색 소스의 출처(provenance)를 유지합니다. 평가는 기술적 지표(정밀도/재현율, F1, 탐지를 위한 mAP, 요약을 위한 ROUGE, 해당되는 경우 perplexity)와 유용성, 안전성, 지연 시간과 같은 인간 중심의 지표를 결합해야 합니다. 실용적인 거버넌스 관행에는 결과물에 대한 레드팀(red-teaming) 테스트, 자동화된 콘텐츠 필터, Amazon Comprehend PII를 사용한 PII 탐지 및 수정, 모델 및 임베딩 버전 관리, 의도된 사용 사례 및 한계 문서화 등이 포함됩니다. 일반적인 함정으로는 합성 테스트에만 의존하거나, 규정 준수를 위한 로깅이 불충분하거나, 규제가 적용되는 환경에서 배포 전 편향 완화 단계를 건너뛰는 것 등이 있습니다.

실용적인 문제: 사용 사례 시나리오

시나리오: MedData Analytics는 내부 진단 보조 시스템을 운영하고 있습니다. 이 시스템은 Amazon Bedrock을 사용하여 응답을 생성하고, 환자 매뉴얼과 의료 영상 보고서는 Amazon S3에 저장하며, 모델 실험을 위해 SageMaker 훈련 파이프라인을 사용합니다. 이 회사는 임상의를 위해 환각과 편향을 최소화하면서 투명하고 검증 가능한 진단 제안을 제공해야 합니다.

과제: 신뢰할 수 있는 문서에 모델 결과물을 기반하게 하고, 설명 가능성 및 편향 검사를 보장하며, 출처 추적과 인적 감독 기능을 갖춘 프로덕션 RAG 파이프라인을 구축해야 합니다.

권장 접근 방식:

Amazon Textract를 사용하여 PDF에서 구조화된 텍스트를 추출하고 Amazon Comprehend PII로 민감한 필드를 수정합니다. 정제된 문서는 Amazon S3에 저장하고 객체 태깅으로 버전을 추적합니다.
Amazon Bedrock 임베딩 모델(또는 SageMaker 호스팅 인코더)로 임베딩을 생성하고, Amazon OpenSearch Service에서 k-NN으로 벡터를 인덱싱하며, 출처(provenance) 링크를 위해 메타데이터를 DynamoDB에 저장합니다.
Lambda(또는 Step Functions)가 top_k 구절을 검색하고, 시스템 프롬프트 템플릿을 구성하며, 낮은 temperature 값과 ‘출처 인용’ 지침을 명시하여 Amazon Bedrock을 호출하는 RAG 오케스트레이션을 구축합니다.
훈련/레이블 데이터에 SageMaker Clarify를 적용하여 편향을 탐지하고, SageMaker Model Monitor를 사용하여 드리프트 경고를 받으며, 프롬프트와 검색 ID를 CloudWatch/S3에 로깅하고, 고위험 결과물은 Amazon A2I를 통해 임상의가 검토하도록 라우팅합니다.

근거: RAG와 명시적인 출처 인용을 통해 결과물을 특정 정보에 기반하게 하면 환각을 줄일 수 있습니다. Clarify, Model Monitor, 인적 검토를 결합하면 설명 가능성, 편향 탐지, 그리고 전문가 모범 사례에 부합하는 안전한 운영 거버넌스를 제공할 수 있습니다.

← AI와 ML의 기본 사항 · 모든 도메인 · AWS AI →

이 문제 연습하기 → · ExamRoll.io에서 시간 제한 연습 →