在对基础模型进行安全测试时,测试人员有意绕过模型的安全保护措施以生成有害内容。这种技术称为什么?
选择一个答案
点击一个选项来检查您的答案。
正确答案: 越狱.
为什么这是答案
越狱”是指测试人员或用户故意绕过基础模型的安全防护措施,以使其生成通常会被拒绝的有害、不当或受限内容。这是一种常见的安全测试技术,用于发现模型在内容过滤和安全响应方面的弱点。模糊测试训练数据是针对模型训练过程的漏洞,而非模型运行时的安全防护。拒绝服务(DoS)攻击旨在使模型或服务不可用,而不是生成有害内容。授权渗透测试是一个更广泛的概念,越狱是其在基础模型安全测试中的一个具体应用。
通过考试 — 无需无休止地寻找答案
将本次考试的所有验证问题和解释集中在一处,节省数小时的准备时间。1,000+ 认证 · 20+ 语言 · 免费开始。
更快通过考试 → 无需银行卡