Amazon AIF-C01: 负责任的 AI 与治理 — 学习指南
属于 AWS AI Practitioner AIF-C01 — 学习指南. 使用经过验证的答案练习： Amazon 考试中心, 或参加限时模拟考试： ExamRoll.io.
原则：公平性、偏见缓解与以人为本的设计
负责任的 AI 始于在业务背景下明确决策公平性的含义，以及模型结果如何影响人们。定义受保护属性、可接受的差异性影响阈值，以及包含准确性和公正性的成功指标。在数据收集和标注期间，强制执行数据溯源、采样策略和隐私保护控制，以避免出现代表性差距，这种差距会导致模型在训练中表现良好，但在应用于新的人群时却失败。设计有人工介入（humans in the loop）的系统：提供人工干预的途径、升级策略以及基于角色的解释访问权限。决策标准应在统计修复方法（如重新加权、对抗性去偏、后处理校准）与运营限制之间取得平衡——更具侵入性的修复需要重新训练和更强的治理。从业者常见的陷阱包括：仅依赖聚合指标（总体准确性会掩盖子群体的失败）、训练-服务偏差（特征在训练时可用，但在推理时不可用），以及过早优化导致对历史标签的过拟合。使用交叉验证、留出期和时间序列拆分来检测过拟合和分布漂移。对于高影响领域，采用保守的部署策略（如影子模式、渐进式部署），并在运行手册中清晰记录失败模式和人员职责。
可解释性与透明度：工具与架构模式
可解释性必须对操作员可操作，对监管机构可审计，对受影响用户可理解。在开发和推理期间使用特征归因和反事实技术。Amazon SageMaker Clarify 提供训练前后的偏见检测和基于 SHAP 的解释，而本地解释器（如 SHAP、LIME）则有助于调查单个预测。对于基础模型和检索增强生成，通过来源信息来锚定输出：包含从 Amazon Kendra、Amazon OpenSearch Service 或向量存储中检索到的文档 ID 或片段位置，以减少幻觉。使用 Amazon Augmented AI (A2I) 实施人工审核工作流，将高风险预测提交进行手动验证。警惕那些要求思维链解释的提示工程：它虽然可以增加透明度，但也可能暴露敏感或不稳定的内部推理过程，并可能产生听起来合理但错误的解释。在部署时，应在模型预测旁包含结构化的解释输出（如特征重要性、最近邻、检索轨迹），以便下游系统和用户可以做出明智的决策。
运营治理：监控、漂移与持续改进
运营治理将监控、再训练和事件响应嵌入到机器学习生命周期中。为模型配备丰富的遥测数据：预测分布、置信度分数、输入特征摘要、延迟和业务 KPI。Amazon SageMaker Model Monitor 跟踪数据和预测漂移，并可以触发 SageMaker Pipelines 进行自动化再训练。通过 AWS CloudTrail、Amazon CloudWatch 集中化日志和审计追踪，并将存档的请求存储在 Amazon S3 中，通过加密（AWS KMS）和不变性（S3 Object Lock）来满足取证需求。使用特征存储（Amazon SageMaker Feature Store）来防止训练/服务偏差并确保特征血缘。为模型采用 CI/CD（CodePipeline、CodeBuild）和基础设施即代码，以维护可复现的部署。常见的陷阱包括：未能监控标签漂移（当标签的含义发生变化时）、在持续再训练中忽略成本/延迟的权衡，以及未对数据或模型工件进行版本控制；应通过元数据存储、模型注册表和明确定义的回滚程序来解决这些问题。当有人工介入时，为人工审核的吞吐量定义 SLA。
文档、可审计性和法规遵从性
有效的治理需要可复现的工件：模型卡、数据表、训练日志以及将模型输出映射到业务行动的已签署决策策略。生成简洁的模型卡，说明预期用途、在不同子群组中的性能、训练数据来源、已知限制和联系方式。存储不可变的审计证据：通过 CloudTrail 记录 API 请求/响应日志，将其存储在加密的 S3 存储桶中，并使用生命周期和 Object Lock 来满足所需的保留期限。使用 AWS Audit Manager 和 AWS Config 持续评估控制措施；利用 Amazon Macie 和 AWS Lake Formation 进行敏感数据发现和细粒度访问控制。通过精心组织的工件包为外部审计做准备：版本化的数据集、超参数、验证笔记本以及来自 SageMaker Clarify 的偏见/清晰度报告。披露和保留的关键决策标准是法规要求、业务风险和隐私法——在保留用户数据时应用差分隐私或去标识化技术。从业者的陷阱包括预处理步骤的文档不充分、缺少可复现的种子、以及对数据集进行未跟踪的临时手动编辑——这些都会破坏可审计性和法律辩护能力。
实践问题：FinTrust 银行 — 具有可解释性的贷款决策
场景：FinTrust 银行运行一个私有的 AWS AI 环境，使用 Amazon Bedrock 访问基础模型，使用 Amazon SageMaker 进行模型开发，使用 S3 作为数据湖，使用 AWS KMS 进行加密，并使用 CloudTrail 进行 API 日志记录。他们必须为信贷员提供模型辅助决策支持，同时满足严格的法规可解释性和保留要求。
挑战：部署一个基于基础模型的决策助手，该助手需提供可审计、可解释的贷款建议，将每个请求/响应记录保留七年，检测偏见，并支持人工干预。
推荐方法：
- 在 VPC 端点内配置 Amazon Bedrock（或经过审查的 SageMaker 微调模型），使用 AWS KMS 强制加密，并通过 Amazon API Gateway 路由 API 调用，同时使用 CloudTrail 将日志记录到 S3（启用 S3 Object Lock 以实现 7 年的不可变性）。
- 使用 SageMaker Clarify 检测预测，以获取偏见指标和 SHAP 解释，并使用来自 Amazon Kendra 或 OpenSearch 的检索来源来增强响应，为推理提供依据。
- 使用 Amazon A2I 实施人在环路审查：标记高风险或低置信度的建议，供信贷员审批，并将审查员的决定记录在审计跟踪中。
- 使用 SageMaker Model Monitor 和 CloudWatch 警报自动监控模型漂移，与 SageMaker Pipelines 集成以进行计划性再训练，并在一个不可变的工件存储中维护模型卡和治理档案。
理由：将 Bedrock/SageMaker 与 Clarify、A2I 和不可变日志记录相结合，可以在保留人工监督的同时，强制实现可解释性、偏见检测和可审计的保留，使操作控制与法规和治理最佳实践保持一致。
练习这些题目 → · 在 ExamRoll.io 上限时练习 →
Pass the whole exam — not just this question
You found this answer. Get every verified question and explanation in one place, and save hours of prep. Free to start.
通过考试 →