在全面发布新模型之前,公司需要在线验证其在10%生产流量上的表现。该模型通过Application Load Balancer后面的SageMaker endpoint提供服务。哪种设置能以最少的操作开销提供所需的10%在线验证?
选择一个答案
点击一个选项来检查您的答案。
正确答案: 将新模型作为生产变体添加到现有SageMaker endpoint,并将变体权重设置为0.1;使用Amazon CloudWatch监控调用。.
为什么这是答案
正确答案是“将新模型作为生产变体添加到现有SageMaker endpoint,并将变体权重设置为0.1;使用Amazon CloudWatch监控调用。” SageMaker endpoint支持多模型变体,允许您将新模型作为生产变体添加到现有端点,并使用权重控制流量分配。将权重设置为0.1(即10%)可以将10%的生产流量路由到新模型进行在线验证,同时保持90%的流量流向现有模型,这是一种低操作开销且高效的A/B测试方法。Amazon CloudWatch是监控模型调用和性能的标准服务。 将变体权重设置为1会将所有流量路由到新模型,不符合10%在线验证的要求。为新模型创建单独的SageMaker endpoint会增加操作复杂性和成本,且无法直接实现10%的流量分配。通过ALB配置流量转发到新模型会增加额外的配置和管理开销,并且SageMaker本身提供了更集成的A/B测试功能。使用AWS CloudTrail主要用于审计和合规性,而不是实时监控模型调用和性能指标。
通过考试 — 无需无休止地寻找答案
将本次考试的所有验证问题和解释集中在一处,节省数小时的准备时间。1,000+ 认证 · 20+ 语言 · 免费开始。
更快通过考试 → 无需银行卡