ML 模型将在线应用程序中的客户进行评分，以确定要展示哪些产品。工程师需要最大限度地降低响应延迟。应如何在 SageMaker 中部署模型以满足低延迟要求？

实时推理端点 (real-time inference endpoint) 专为需要即时响应的在线应用程序设计，例如根据客户行为实时推荐产品。它通过保持模型始终加载在内存中并准备好处理请求，从而最大限度地降低了响应延迟。批量转换 (batch transform) 适用于处理大量离线数据，不适合低延迟的在线场景。无服务器推理端点 (serverless inference endpoint) 适合间歇性或突发性工作负载，但其冷启动时间可能导致比实时端点更高的延迟。异步推理端点 (asynchronous inference endpoint) 适用于处理大型有效负载或需要长时间处理的请求，它通过队列处理请求，响应不是即时的。