某公司使用 SageMaker 執行即時推論。支援端點的 EC2 執行個體自動擴展,會在先前的橫向擴展執行個體完全準備好之前就啟動新的執行個體,導致效率低下和延遲。哪項變更可以在保持回應時間效能的同時,改善擴展行為?
選擇一個答案
點擊一個選項來檢查您的答案。
正確答案: 增加橫向擴展活動後的冷卻時間。.
為什麼這是答案
當 SageMaker 端點在先前的擴展實例完全準備好之前就啟動新的實例,會導致效率低下和延遲。增加橫向擴展活動後的冷卻時間,可以確保在啟動新實例之前,有足夠的時間讓現有實例完成初始化並處理請求。這能有效防止過度擴展,並允許端點在穩定狀態下處理增加的負載,從而改善擴展行為並保持回應時間效能。 其他選項: 變更為多模型端點配置雖然能提高資源利用率,但不能直接解決實例啟動過快的問題。 整合 API Gateway 和 Lambda 主要用於管理調用和流量路由,而非優化 SageMaker 內部擴展邏輯。 縮短橫向縮減冷卻時間會導致實例過早移除,可能影響效能;增加最大實例數量本身並不能解決擴展行為效率低下的問題,反而可能加劇成本。
通過考試 — 無需無休止地尋找答案
集中一處獲取此考試的所有核實題目和解釋,節省數小時的準備時間。1,000 多種認證 · 20 多種語言 · 免費開始。
更快通過您的考試 → 無需信用卡