Een team wil Retrieval Augmented Generation (RAG) gebruiken met een open-source LLM dat draait op Amazon Bedrock. De RAG-bronbestanden (CSV- en DOCX-bestanden) zijn opgeslagen in een S3-bucket. Welke aanpak vereist de minste operationele overhead om RAG over die bestanden mogelijk te maken?

De correcte optie is het maken van een knowledge base voor Amazon Bedrock en het configureren van een databron die verwijst naar de S3-bucket. Dit is de meest operationeel efficiënte benadering omdat Amazon Bedrock native integratie biedt voor RAG met S3-bronnen via knowledge bases. Bedrock beheert automatisch het chunking, embedding en de vectoropslag, wat de operationele overhead minimaliseert. De andere opties zijn minder efficiënt: Een pipeline in Amazon SageMaker Pipelines om een nieuw model te genereren en dit aan te roepen vanuit Bedrock is onnodig complex voor RAG en creëert extra beheerlast. Het converteren van data naar vectoren en opslaan in Amazon Neptune is een geldige benadering voor RAG, maar vereist handmatig beheer van de vectorisatie en de Neptune-database, wat meer operationele overhead met zich meebrengt dan de geïntegreerde Bedrock knowledge base. Het fine-tunen van een bestaande LLM met AutoML in SageMaker is niet de primaire methode voor RAG. Fine-tuning past het model aan de data aan, terwijl RAG externe kennis ophaalt. Dit creëert een nieuw model en een SageMaker-endpoint, wat meer beheer vereist.