Amazon SageMaker 上的生产级 ML 管道处理的输入最大为 1 GB,作业运行时间最长可达一小时,但应用程序需要近乎实时的响应。哪种 SageMaker 推理选项最合适?
选择一个答案
点击一个选项来检查您的答案。
正确答案: Asynchronous inference.
为什么这是答案
异步推理是最佳选择。虽然应用程序需要近乎实时的响应,但其输入大小(最大 1 GB)和处理时间(最长一小时)超出了实时推理和无服务器推理的典型限制。实时推理适用于低延迟、小有效载荷的场景。无服务器推理也适用于突发性、不可预测的工作负载,但通常也限制了有效载荷大小和处理时间。批量转换适用于高吞吐量、离线处理,不符合近实时响应的要求。异步推理通过将请求排队并异步处理,非常适合处理大型有效载荷和长时间运行的推理,同时仍能提供比批量转换更快的响应。
通过考试 — 无需无休止地寻找答案
将本次考试的所有验证问题和解释集中在一处,节省数小时的准备时间。1,000+ 认证 · 20+ 语言 · 免费开始。
更快通过考试 → 无需银行卡