一位機器學習專家在 CPU:GPU 比例為 12:1 的 EC2 實例上訓練深度學習電腦視覺模型,發現 GPU 大約有一半時間處於閒置狀態。他們必須在不延長工作時間的情況下降低訓練成本。哪種選項符合此要求?
選擇一個答案
點擊一個選項來檢查您的答案。
正確答案: 使用記憶體優化型 EC2 Spot Instances 進行訓練工作。.
為什麼這是答案
由於 GPU 約有一半時間閒置,這表示模型訓練並未充分利用 GPU 資源,可能存在資料載入瓶頸或模型架構無法有效利用所有 GPU 核心。使用記憶體優化型 EC2 Spot Instances 可以顯著降低訓練成本,因為 Spot Instances 的價格遠低於按需實例,且記憶體優化型實例通常具有較大的記憶體頻寬,有助於緩解資料載入瓶頸,進而提高 GPU 利用率。同時,Spot Instances 允許設定中斷行為,可以選擇在訓練進度保存後再中斷,避免延長工作時間。 切換到僅有 CPU 的實例類型會大幅延長訓練時間,不符合「不延長工作時間」的要求。使用異構叢集雖然可以提供彈性,但如果 GPU 利用率問題未解決,成本效益不會顯著提升。切換到 CPU:GPU 比例為 6:1 的實例類型,雖然 GPU 數量減少,但如果問題出在資料瓶頸而非 GPU 數量過多,則無法解決根本問題,且仍可能導致 GPU 閒置,無法有效降低成本。
通過考試 — 無需無休止地尋找答案
集中一處獲取此考試的所有核實題目和解釋,節省數小時的準備時間。1,000 多種認證 · 20 多種語言 · 免費開始。
更快通過您的考試 → 無需信用卡