Amazon AIF-C01: 負責任的 AI 與治理 — 學習指南
屬於 AWS AI Practitioner AIF-C01 — 學習指南. 使用經過驗證的解答練習： Amazon 考試中心, 或參加限時模擬考試： ExamRoll.io.
原則：公平性、偏見緩解與以人為本的設計
「負責任的 AI」始於明確決定在商業情境中「公平性」的意涵，以及模型結果如何影響人們。定義受保護的屬性、可接受的差別影響閾值，以及同時包含準確性和公平性的成功指標。在資料收集和標註期間，強制執行來源追溯、抽樣策略和隱私保護控制，以避免代表性差距，這種差距會導致模型在訓練時表現良好，但在面對新的群體時卻失敗。設計有人類參與其中的系統 (humans in the loop)：包括人為覆寫的路徑、上報政策，以及基於角色的解釋存取權限。決策標準應在統計修正方法（重新加權、對抗性去偏、後處理校準）與營運限制之間取得平衡——侵入性更強的修正需要重新訓練和更嚴格的治理。從業人員常見的陷阱包括：僅依賴總體指標（整體準確性會掩蓋子群體的失敗）、訓練與服務歪斜 (training-serving skew)（特徵在訓練時可用，但在推論時卻不可用），以及過早優化導致對歷史標籤的過擬合。使用交叉驗證、保留期和時間分割來偵測過擬合和分佈漂移。對於高影響力的領域，應採用保守的部署策略（影子模式、漸進式推出），並在執行手冊 (runbook) 中清楚記錄失敗模式和人員職責。
可解釋性與透明度：工具與架構模式
可解釋性必須對操作人員具有可操作性、對監管機構具有可稽核性，並對受影響的使用者具有可理解性。在開發和推論期間，使用特徵歸因和反事實技術。Amazon SageMaker Clarify 提供訓練前和訓練後的偏見偵測以及基於 SHAP 的解釋，而本地解釋器（SHAP、LIME）則有助於調查個別的預測。對於基礎模型和檢索增強生成 (RAG)，應透過來源追溯來固定輸出：包含從 Amazon Kendra、Amazon OpenSearch Service 或向量儲存庫中檢索到的文件 ID 或片段位置，以減少幻覺 (hallucinations)。使用 Amazon Augmented AI (A2I) 實作人為審核工作流程，將高風險的預測提交進行手動驗證。謹慎使用要求思維鏈 (chain-of-thought) 解釋的提示工程：這雖然可以提高透明度，但可能會揭露敏感或不穩定的內部推理過程，並產生聽起來合理但實際上不正確的解釋。在部署時，應在模型預測旁包含結構化的解釋輸出（特徵重要性、最近鄰、檢索追蹤），以便下游系統和使用者能做出明智的決策。
營運治理：監控、漂移與持續改進
營運治理將監控、重新訓練和事件應變嵌入到機器學習生命週期中。為模型配備豐富的遙測資料：預測分佈、信賴度分數、輸入特徵摘要、延遲和業務關鍵績效指標 (KPI)。Amazon SageMaker Model Monitor 會追蹤資料和預測的漂移，並可觸發 SageMaker Pipelines 進行自動化重新訓練。透過 AWS CloudTrail、Amazon CloudWatch 集中化日誌和稽核軌跡，並將封存的請求儲存在 Amazon S3 中，使用加密 (AWS KMS) 和不可變性 (S3 Object Lock) 以滿足鑑識需求。使用特徵存放區 (Amazon SageMaker Feature Store) 來防止訓練/服務歪斜，並確保特徵的血緣關係。為模型採用 CI/CD (CodePipeline, CodeBuild) 和基礎設施即程式碼 (Infrastructure as Code)，以維持可重現的部署。常見的陷阱包括：未能監控標籤漂移（當標籤的意義發生變化時）、在持續重新訓練中忽略成本/延遲的權衡，以及未對資料或模型產出物進行版本控制；可透過中繼資料儲存庫、模型登錄檔和定義明確的回滾程序來解決這些問題。當有人類參與其中時，為人為審核的吞吐量定義服務等級協議 (SLA)。
文件記錄、可稽核性與法規遵循
有效的治理需要可重現的產出物：模型卡、資料表、訓練日誌，以及將模型輸出對應到業務行動的簽署決策政策。產出簡潔的模型卡，說明預期用途、在不同子群組中的效能、訓練資料來源、已知限制和聯絡窗口。儲存不可變的稽核證據：透過 CloudTrail 記錄 API 請求/回應日誌，儲存在加密的 S3 儲存貯體中，並使用生命週期和 Object Lock 來滿足必要的保留期限。使用 AWS Audit Manager 和 AWS Config 持續評估控制措施；利用 Amazon Macie 和 AWS Lake Formation 進行敏感資料探索和精細的存取控制。透過精心整理的產出物組合來為外部稽核做準備：包含版本化的資料集、超參數、驗證用的 notebook，以及來自 SageMaker Clarify 的偏見/清晰度報告。揭露和保留的關鍵決策標準是法規要求、業務風險和隱私法——在保留使用者資料時，應採用差分隱私或去識別化技術。從業人員的陷阱包括前置處理步驟的文件記錄不足、缺少可重現的種子碼，以及對資料集進行未追蹤的臨時手動編輯——這些都會破壞可稽核性和法律上的可防禦性。
實務問題：FinTrust 銀行 — 具備可解釋性的貸款決策
情境：FinTrust 銀行在一個私有的 AWS AI 環境中運作，使用 Amazon Bedrock 存取基礎模型，Amazon SageMaker 進行模型開發，S3 作為資料湖，AWS KMS 進行加密，以及 CloudTrail 記錄 API 日誌。他們必須透過模型輔助決策來支援貸款審核人員，同時滿足嚴格的法規可解釋性和資料保留要求。
挑戰：部署一個基於基礎模型的決策輔助系統，該系統需提供可稽核、可解釋的貸款建議，記錄每筆請求/回應達七年，偵測偏見，並允許人工覆寫。
建議方法：
- 在 VPC 端點內設定 Amazon Bedrock (或經過審核的 SageMaker 微調模型)，使用 AWS KMS 強制加密，並透過 Amazon API Gateway 路由 API 呼叫，同時將 CloudTrail 日誌記錄到 S3 (啟用 S3 Object Lock 以達到 7 年的不可變性)。
- 使用 SageMaker Clarify 來檢測預測中的偏見指標和 SHAP 解釋，並透過來自 Amazon Kendra 或 OpenSearch 的檢索來源來增強回應，為其推理提供依據。
- 使用 Amazon A2I 實作人在迴路 (human-in-the-loop) 的審查機制：將高風險或低信度的建議標記出來，交由貸款審核人員批准，並將審查者的決定記錄在稽核軌跡中。
- 使用 SageMaker Model Monitor 和 CloudWatch 警報自動監控模型漂移，與 SageMaker Pipelines 整合以進行排程化的重新訓練，並在一個不可變的產出物儲存庫中維護模型卡和治理文件夾。
理由：將 Bedrock/SageMaker 與 Clarify、A2I 和不可變日誌記錄相結合，可在保留人工監督的同時，強制執行可解釋性、偏見偵測和可稽核的資料保留，使營運控制措施與法規和治理的最佳實踐保持一致。
練習這些題目 → · 在 ExamRoll.io 上限時練習 →
Pass the whole exam — not just this question
You found this answer. Get every verified question and explanation in one place, and save hours of prep. Free to start.
通過考試 →