某公司計劃使用 Amazon Bedrock LLM 來建構一個聊天介面，該介面會參考儲存為 PDF 檔案的產品手冊。哪種方法最具成本效益？

將 PDF 文件上傳到 Amazon Bedrock 知識庫，並使用該知識庫為提示提供上下文是最具成本效益的方法。Bedrock 知識庫專為 RAG (Retrieval Augmented Generation) 設計，能有效率地從大量非結構化資料中檢索相關資訊，並將其作為上下文提供給 LLM，避免了在每次呼叫時傳遞整個 PDF 內容。 將單一 PDF 檔案作為上下文納入，如果文件過大，可能會超出模型上下文視窗限制，或導致不必要的成本。將所有 PDF 檔案作為上下文納入則更不可行，因為會迅速超出上下文限制並產生高昂費用。使用所有 PDF 文件在 Amazon Bedrock 中微調模型成本極高，且通常不需要，因為 RAG 已經能很好地處理此類任務，微調適用於模型行為的根本性改變而非僅是資料查詢。