一個電商網站使用三個運算最佳化實例,在 SageMaker 端點上託管 TensorFlow 產品推薦模型,以處理預期的尖峰流量。每個月初,回應時間都會飆升,部分使用者會看到錯誤。大多數流量發生在單一時區的平日上午 8 點到下午 6 點。哪兩個動作能最有效地解決問題,同時將成本降到最低?(請選擇兩項)
選擇一個答案
點擊一個選項來檢查您的答案。
正確答案: 為端點啟用 Amazon Elastic Inference (EI) 加速器。, 設定端點以根據 InvocationsPerInstance 指標進行自動擴展。.
為什麼這是答案
啟用 Amazon Elastic Inference (EI) 加速器可以提高模型推論效能,減少延遲,同時比使用更大型的 GPU 實例成本更低,這有助於解決回應時間飆升的問題。設定端點以根據 InvocationsPerInstance 指標進行自動擴展,可以在流量尖峰時自動增加實例數量,確保服務可用性並減少錯誤,而在流量較低時自動縮減,從而有效控制成本。 建立包含兩個生產變體的全新端點配置雖然能提供冗餘,但並未直接解決效能問題,且可能增加成本。部署第二個實例池用於藍/綠模型部署主要用於無縫模型更新,與解決流量尖峰時的效能問題無直接關聯。重新配置端點以使用可突增實例類型(如 T 系列)通常適用於低基準使用率但偶爾需要突增效能的場景,對於持續高流量的尖峰可能不夠,且可能導致 CPU 積分耗盡。
通過考試 — 無需無休止地尋找答案
集中一處獲取此考試的所有核實題目和解釋,節省數小時的準備時間。1,000 多種認證 · 20 多種語言 · 免費開始。
更快通過您的考試 → 無需信用卡