一位机器学习工程师为 Amazon SageMaker 端点背后的推理组件配置了自动扩缩,其目标跟踪策略为每分钟每个模型 100 次调用。该端点在工作时间正常扩缩,但在每个工作日开始时,都没有可用的实例来处理请求,从而导致延迟。工程师应如何确保端点在每个工作日开始时能够处理传入请求?
选择一个答案
点击一个选项来检查您的答案。
正确答案: 使用由 Amazon CloudWatch 警报驱动的步进扩缩策略,并添加第二个 CloudWatch 警报和扩缩策略,以便在每个工作日开始时将最小实例数从零更改为一。.
为什么这是答案
正确的解决方案是使用由 Amazon CloudWatch 警报驱动的步进扩缩策略,并在每个工作日开始时,通过第二个 CloudWatch 警报和扩缩策略将最小实例数从零更改为一。这确保了在流量高峰到来之前,端点已经预热并准备好处理请求,从而避免了冷启动延迟。 其他选项不正确: 缩短冷却时间或添加生命周期挂钩并不能解决实例在工作日开始时不可用的问题,因为它们主要影响扩缩的响应速度,而不是预先扩容。 将目标指标更改为 CPU 利用率或将扩缩策略目标值设置为一,并不能保证在流量到来之前有实例可用,因为它们仍然依赖于实际的负载指标来触发扩缩。
通过考试 — 无需无休止地寻找答案
将本次考试的所有验证问题和解释集中在一处,节省数小时的准备时间。1,000+ 认证 · 20+ 语言 · 免费开始。
更快通过考试 → 无需银行卡