一個旨在總結各種長度書籍的系統在測試期間對某些書名失敗。這些失敗最可能的原因是什麼？

當書籍總結系統在測試期間對某些書名失敗時，最可能的原因是輸入文字超過了模型的最大上下文（token）長度。大型語言模型（LLMs）有其固定的輸入限制，如果提供的文本（例如整本書的內容）超出了這個限制，模型將無法處理所有資訊，導致總結失敗或產生不完整、不準確的結果。 其他選項為何不正確： 模型的 temperature 參數設定過高：Temperature 影響模型輸出的隨機性，過高會導致輸出更具創意但不一定失敗，通常不會是導致處理失敗的原因。 所選模型不支援 fine-tuning：Fine-tuning 是模型訓練過程，與模型在推理時處理輸入長度無關。 Top-p (nucleus sampling) 值設定過高：Top-p 也是影響輸出隨機性和多樣性的參數，與輸入長度限制無關。