一个团队希望在生产环境中长期运行预测模型的多个版本,控制每个版本服务的推理比例,并最大限度地减少实施工作。哪种解决方案最能满足这些需求?
选择一个答案
点击一个选项来检查您的答案。
正确答案: 在SageMaker中托管模型,并使用多个生产变体创建单个端点配置;调整变体权重以控制流量。.
为什么这是答案
正确答案是“在SageMaker中托管模型,并使用多个生产变体创建单个端点配置;调整变体权重以控制流量。” Amazon SageMaker端点支持生产变体,允许您在单个端点下部署模型的多个版本。通过调整每个变体的权重,您可以精确控制流向每个模型版本的推理流量比例,从而实现A/B测试、金丝雀发布或逐步推出新模型版本,同时最大限度地减少实施工作。 选项A“在SageMaker中托管每个模型,并为每个模型创建单独的端点;让应用程序根据需要调用不同的端点”需要应用程序层面的复杂逻辑来管理流量分配,增加了实施复杂性,并且每个端点都会产生额外成本。选项C“使用SageMaker Neo为不同设备类型编译模型,并根据设备类型路由推理”主要用于优化模型以在边缘设备上运行,与在生产环境中管理多个模型版本的推理比例无关。选项D“在SageMaker中将多个模型托管在单个端点后面,并使用批量转换来控制调用哪个模型”批量转换适用于离线数据处理,而不是实时在线推理。
通过考试 — 无需无休止地寻找答案
将本次考试的所有验证问题和解释集中在一处,节省数小时的准备时间。1,000+ 认证 · 20+ 语言 · 免费开始。
更快通过考试 → 无需银行卡