在一個分類任務中,使用 mini-batches 訓練神經網路時,訓練準確度在迭代之間劇烈波動。最可能的原因是什麼?
選擇一個答案
點擊一個選項來檢查您的答案。
正確答案: 學習率設定太高。.
為什麼這是答案
學習率設定太高是最可能的原因。過高的學習率會導致模型在每次迭代中更新權重時步長過大,使得優化器在損失函數的曲面上跳過最佳點,甚至發散,從而導致訓練準確度劇烈波動。 資料集中的類別標籤不平衡通常會導致模型偏向多數類別,但不會直接造成訓練準確度在迭代之間劇烈波動。在 epoch 之間停用了資料集的隨機排序會導致模型在每個 epoch 中以相同的順序看到資料,可能導致模型過度擬合特定順序的資料,但通常不會引起劇烈的波動。mini-batch 的大小太大會導致每次權重更新的頻率降低,並且可能需要更多的記憶體,但通常會使訓練過程更平滑,而不是劇烈波動。
通過考試 — 無需無休止地尋找答案
集中一處獲取此考試的所有核實題目和解釋,節省數小時的準備時間。1,000 多種認證 · 20 多種語言 · 免費開始。
更快通過您的考試 → 無需信用卡