一家公司正在將大型語言模型 (LLM) 從地端訓練轉移到 Amazon SageMaker,以用於回答即時信用卡查詢的即時對話系統。應該使用哪種 SageMaker 方法來訓練和部署 LLM?
選擇一個答案
點擊一個選項來檢查您的答案。
正確答案: 使用 SageMaker Training Compiler 加速 LLM 訓練,並使用 SageMaker real-time inference 部署訓練好的模型。.
為什麼這是答案
正確答案是使用 SageMaker Training Compiler 加速 LLM 訓練,並使用 SageMaker real-time inference 部署訓練好的模型。SageMaker Training Compiler 專為加速大型模型(如 LLM)的訓練而設計,能有效縮短訓練時間。對於即時對話系統,即時回應至關重要,因此使用 SageMaker real-time inference 部署模型是最佳選擇,它能提供低延遲的預測。 選項二不正確,因為 SageMaker deep learning containers for large model inference 主要用於部署大型模型,而非訓練。選項三不正確,SageMaker Notebook Jobs 雖然可用於訓練,但對於即時查詢,SageMaker Asynchronous Inference 的延遲可能過高。選項四不正確,SageMaker Studio 是一個整合開發環境,但 SageMaker batch transform 不適用於即時應用,它用於處理大量離線數據。
通過考試 — 無需無休止地尋找答案
集中一處獲取此考試的所有核實題目和解釋,節省數小時的準備時間。1,000 多種認證 · 20 多種語言 · 免費開始。
更快通過您的考試 → 無需信用卡