MedScan Health 需要一个 SageMaker 端点,该端点能够按顺序为每个请求运行一个图像预处理容器、一个 TensorFlow 模型容器,然后一个后处理容器。他们希望客户端使用单个 HTTP 端点 URL。哪种 SageMaker 部署方法最能满足此要求,同时最大限度地减少额外的网络开销并确保正确的模型生命周期行为?
选择一个答案
点击一个选项来检查您的答案。
正确答案: 通过定义一个包含三个容器定义(预处理、模型、后处理)的 SageMaker Model 来创建推理管道,然后从该模型创建端点,以便 SageMaker 为每个请求链接容器。.
为什么这是答案
正确答案是创建推理管道。SageMaker 推理管道允许您将多个容器(例如预处理、模型和后处理)按顺序链接到一个单一的 SageMaker 端点后面。这最大限度地减少了网络开销,因为所有处理都在 SageMaker 内部完成,并且客户端只需与一个 URL 交互。它还确保了正确的模型生命周期行为,因为 SageMaker 管理整个管道的部署和扩展。 部署三个独立的实时端点并使用 ALB + Lambda 会增加不必要的网络开销和管理复杂性,并且不符合“单个 HTTP 端点 URL”的要求,因为 Lambda 实际上是客户端。SageMaker 多模型端点旨在托管多个模型,而不是按顺序链接处理步骤,并且 TargetModel 机制不适用于此用例。在调用实时端点之前/之后触发 SageMaker Processing 作业会引入显著的延迟和额外的成本,并且不适合实时推理场景。
通过考试 — 无需无休止地寻找答案
将本次考试的所有验证问题和解释集中在一处,节省数小时的准备时间。1,000+ 认证 · 20+ 语言 · 免费开始。
更快通过考试 → 无需银行卡