一家贷款机构正在构建一个生成式AI解决方案,旨在为新申请人提供折扣,并希望最大程度地减少可能对某些客户产生负面影响的偏见。他们应该采取哪些措施?(选择两项)
选择一个答案
点击一个选项来检查您的答案。
正确答案: 检测数据中的不平衡或差异。, 评估模型的行为,以便公司可以向利益相关者提供透明度。.
为什么这是答案
为了最大程度地减少生成式AI解决方案中可能对某些客户产生负面影响的偏见,贷款机构应首先“检测数据中的不平衡或差异”。数据偏见是模型偏见的常见来源,识别并解决这些不平衡是构建公平模型的基础。其次,机构应“评估模型的行为,以便公司可以向利益相关者提供透明度”。通过评估模型在不同群体上的表现并公开其决策过程,可以建立信任并及时发现和纠正潜在的偏见。 确保模型频繁运行和确保模型的推理时间在可接受的范围内是关于模型操作效率和性能的,与偏见最小化没有直接关系。使用ROUGE指标主要用于评估文本摘要或生成任务的质量,并不能保证模型100%准确,也无法直接解决偏见问题。
通过考试 — 无需无休止地寻找答案
将本次考试的所有验证问题和解释集中在一处,节省数小时的准备时间。1,000+ 认证 · 20+ 语言 · 免费开始。
更快通过考试 → 无需银行卡