Amazon AIF-C01: 生成式 AI 概念 — 學習指南

By Laurynas Brazys · 31 July 2026 · #amazon #aif-c01 #certification #exam-prep #study-guide

屬於 AWS AI Practitioner AIF-C01 — 學習指南. 使用經過驗證的解答練習： Amazon 考試中心, 或參加限時模擬考試： ExamRoll.io.

基礎模型、Token、嵌入和多模態基礎知識

基礎模型是大型的預訓練神經網路，可提供跨文字、圖像和其他模態的強大通用能力；透過 AWS 可用的範例包括 Amazon Bedrock 對 Titan 和其他供應商模型的存取，以及用於訓練和託管自訂模型的 SageMaker 環境。Token 是 LLM 用於輸入和輸出的原子單位——可以是子詞或字元；Token 化決定了上下文視窗的使用量、成本和被截斷的風險。嵌入 (Embeddings) 是編碼語義的密集數值向量，是相似性搜尋、分群和下游檢索任務的黏著劑；嵌入可由 Bedrock 模型或託管在 SageMaker 上的模型生成。多模態模型接受並連結文字、圖像和音訊；典型的 AWS 建構模組包括用於視覺特徵提取的 Amazon Rekognition、用於掃描文件的 Amazon Textract，以及用於音訊轉文字的 Amazon Transcribe，並使用 Bedrock 或 SageMaker 模型來融合各種模態。從業人員的關鍵權衡包括：選擇微調基礎模型（成本較高、前置時間較長、任務對齊性更佳），或是採用提示工程和 RAG（速度更快、成本更低、對資料隱私更安全）。常見的陷阱包括：在建構提示時忽略 Token 限制、未能對嵌入或索引進行版本控制，以及低估了圖像和文件輸入的預處理需求。

提示工程、模型控制與推理技巧

提示工程是透過建構指令和上下文來獲得可靠的輸出；有效的提示會將系統指令（角色、防護機制）、使用者內容和可選的 few-shot 範例分開。使用簡潔的系統提示來定義風格、限制和輸出格式，並儲存標準化的範本以避免產生偏差。在 Bedrock 或 SageMaker 中調整如 temperature、top-p 和 max_tokens 等推論參數會影響創造力和確定性——較低的 temperature 和較窄的 top-p 會產生更一致的答案，但會犧牲創造力。推理技巧包括思維鏈 (chain-of-thought)（明確的中間推理過程以改善多步驟任務）、自我一致性 (self-consistency)（抽樣多個推理路徑並進行整合），以及驗證迴圈 (verification loops)（要求模型檢查或引用來源）。常見的陷阱有提示注入 (prompt injection)（不受信任的輸入改變了系統行為）、過度擬合風格而非意圖的脆弱 few-shot 範例，以及忽略記錄提示以供稽核。技術的決策標準：當透明度很重要時，使用思維鏈進行複雜推理；但當結果會產生真實世界影響時，則需增加驗證；對於面向生產環境的 UI，應優先選擇確定性設定以確保可重複性。

檢索增強生成 (RAG)、向量儲存、代理與架構

RAG 將檢索層與生成模型結合：對文件建立索引、計算嵌入、執行相似性搜尋以檢索上下文，然後用檢索到的段落來制約 LLM。在 AWS 上，文件來源通常存放在 Amazon S3，提取使用 Textract 或自訂的管道，嵌入透過 Bedrock 或 SageMaker 生成，而向量則儲存在帶有 k-NN 的 Amazon OpenSearch Service 中，或儲存在基於 DynamoDB 或 OpenSearch 的專用向量儲存中；當需要企業級語義搜尋和連接器時，可以使用 Amazon Kendra。代理 (Agents) 是基於 LLM 的控制器，它能決定何時呼叫工具——如搜尋、資料庫查詢、計算機等——並且可以透過 AWS Lambda 或 Step Functions 來協調模型呼叫，以安全地執行工具。架構模式包括用於聊天機器人的同步 RAG，以及用於摘要任務的非同步批次 RAG（使用 Athena 或 EMR 預處理大型語料庫）。從業人員的陷阱：過時的索引（未刷新嵌入）、包含超過 Token 視窗的過長上下文，以及未能為檢索到的內容附上來源連結。根據連接器、安全性以及對語義排序的需求，來決定使用 Kendra 還是 OpenSearch。

幻覺、偏見、可解釋性、監控與治理

當模型捏造聽起來合理但實際上不正確的事實時，就會產生「幻覺」；緩解策略著重於將回應建立在事實基礎上 (RAG)、明確引用檢索到的來源、使用驗證模型來進行事實查核，以及在高風險領域採用人在迴路 (human-in-the-loop) 的審查機制。「偏見」源於訓練資料或標籤分佈不均；可使用 Amazon SageMaker Clarify 來偵測資料集偏見、檢視特徵重要性，並產出可解釋性成品。針對模型效能與漂移，可部署 Amazon SageMaker Model Monitor 來偵測資料與預測的漂移，將推論的輸入/輸出日誌記錄到 CloudWatch 和 S3 以供稽核，並維護提示詞與檢索來源的來源追溯性。評估應結合技術指標 (精確率/召回率、F1 分數、用於偵測的 mAP、用於摘要的 ROUGE、以及適用情況下的困惑度) 與以人為本的指標，如實用性、安全性與延遲。實用的治理實務包括對輸出進行紅隊演練、自動化內容過濾器、使用 Amazon Comprehend PII 進行 PII 偵測與修訂、對模型和嵌入進行版本控制，以及記錄預期用途和限制。常見的陷阱包括僅依賴綜合測試、為符合法規而記錄的日誌不足，以及在受監管的環境中部署前跳過偏見緩解步驟。

實務問題：使用案例情境

情境：MedData Analytics 公司營運一個內部診斷輔助工具，該工具使用 Amazon Bedrock 進行生成，病患手冊和影像報告儲存在 Amazon S3 中，並使用 SageMaker 訓練管線進行模型實驗。他們必須為臨床醫生提供透明、可驗證的診斷建議，同時將幻覺和偏見降至最低。

挑戰：將模型輸出建立在可信賴的文件基礎上，確保可解釋性與偏見檢查，並建立一個能維護來源追溯與人為監督的生產級 RAG 管線。

建議方法：

使用 Amazon Textract 從 PDF 中提取結構化文字，並用 Amazon Comprehend PII 修訂敏感欄位；將清理過的 sanitized 文件儲存在 Amazon S3 中，並使用物件標籤來追蹤版本。
使用 Amazon Bedrock 嵌入模型 (或 SageMaker 託管的編碼器) 來生成嵌入，在 Amazon OpenSearch Service 中使用 k-NN 索引向量，並將元資料儲存在 DynamoDB 中以建立來源追溯連結。
建立一個 RAG 協作流程，其中 Lambda (或 Step Functions) 檢索 top_k 的段落、組合系統提示詞範本，並以低溫 (low temperature) 和明確的「引用來源」指令呼叫 Amazon Bedrock 進行生成。
在訓練/標籤資料上應用 SageMaker Clarify 來偵測偏見，使用 SageMaker Model Monitor 進行漂移警示，將提示詞和檢索 ID 記錄到 CloudWatch/S3，並將高風險輸出路由到 Amazon A2I 進行臨床醫生審查。

理由：透過 RAG 和明確的來源引用來將輸出建立在事實基礎上，可減少幻覺；結合 Clarify、Model Monitor 和人為審查，提供了符合從業人員最佳實務的可解釋性、偏見偵測和安全的操作治理。

← AI 與 ML 基礎知識 · 所有領域 · AWS AI →

練習這些題目 → · 在 ExamRoll.io 上限時練習 →