Un'azienda intende utilizzare gli LLM di Amazon Bedrock per creare un'interfaccia di chat che faccia riferimento a manuali di prodotto archiviati come file PDF. Qual è l'approccio più conveniente?

L'approccio più conveniente è caricare i documenti PDF in una knowledge base di Amazon Bedrock e utilizzarla per fornire contesto ai prompt. Questo metodo sfrutta la Retrieval Augmented Generation (RAG), che consente al modello di accedere a informazioni esterne pertinenti senza doverle includere direttamente nel prompt. Includere un singolo file PDF o tutti i file PDF direttamente nel prompt è inefficiente e può superare i limiti di contesto del modello. Ottimizzare un modello su tutti i documenti PDF è costoso in termini di tempo e risorse computazionali, e meno flessibile per aggiornamenti frequenti dei manuali.