AmazonAmazon AI Practitioner AIF-C01 Certification
·CN
·更新于 31 Jul 2026
以下哪项描述了与生成模型提示工程相关的现实风险或限制?
选择一个答案
点击一个选项来检查您的答案。
正确答案: 提示工程可能会引入漏洞,例如针对模型的提示注入攻击。.
为什么这是答案
提示工程虽然强大,但也可能引入安全风险。提示注入(Prompt Injection)是一种常见的攻击方式,攻击者通过精心设计的提示来操纵模型的行为,使其执行非预期任务或泄露敏感信息,这直接证明了“提示工程可能会引入漏洞”的说法。
其他选项不准确:
提示工程不能保证一致的、确定性的输出,大型语言模型本质上是概率性的,输出会有随机性,因此仍需要验证。
提示工程本身无法完全消除数据投毒或模型劫持等风险,这些通常需要更全面的安全措施和数据治理。
提示工程也不能确保模型在真实世界数据上反复生成高度可靠的输出,模型的可靠性还取决于训练数据质量、模型架构和实际应用场景的复杂性。
通过考试 — 无需无休止地寻找答案
将本次考试的所有验证问题和解释集中在一处,节省数小时的准备时间。1,000+ 认证 · 20+ 语言 · 免费开始。
更快通过考试 →
无需银行卡