一個在 ml.m5.xlarge 實例上執行內建 Image Classification 模型的 SageMaker 端點，其推論延遲高到無法接受，而 ModelLatency 是主要原因。當多個使用者同時呼叫該端點時，延遲會惡化。哪項措施能降低這些研究人員的推論延遲？

連接 Amazon Elastic Inference (EI) 加速器是降低推論延遲的有效方法，特別是當 ModelLatency 是主要原因時。EI 加速器專為深度學習推論而設計，能以經濟高效的方式加速模型推論，而無需升級整個實例。當多個使用者同時呼叫端點時，EI 加速器可以更有效地處理推論請求，從而改善延遲。 將實例切換到 ml.t3 突發實例不合適，因為 t3 實例是突發性的，不適合持續的高負載推論工作，可能導致更差的效能。啟用 SageMaker Autopilot 適用於模型訓練和自動調整，而非針對已部署端點的推論延遲優化。更改為記憶體優化實例類型（例如 R 系列）主要解決記憶體瓶頸，而不是計算密集型的推論延遲問題。