Zespół chce używać Retrieval Augmented Generation (RAG) z otwartym modelem LLM działającym na Amazon Bedrock. Dokumenty źródłowe RAG (pliki CSV i DOCX) są przechowywane w zasobniku S3. Które podejście wymaga najmniejszego nakładu operacyjnego, aby umożliwić RAG na tych plikach?

Utworzenie bazy wiedzy dla Amazon Bedrock jest najbardziej operacyjnie efektywnym podejściem. Amazon Bedrock Knowledge Bases to w pełni zarządzana usługa, która automatyzuje proces tworzenia wektoryzacji, przechowywania i wyszukiwania dokumentów z zasobników S3, a następnie integruje je z modelami LLM w Bedrock w celu RAG. Eliminuje to potrzebę ręcznego zarządzania bazami danych wektorowych, potokami wektoryzacji czy integracją. Pozostałe opcje są mniej optymalne: Tworzenie potoku w Amazon SageMaker Pipelines do generowania nowego modelu lub dostrajanie LLM za pomocą AutoML w SageMaker nie jest bezpośrednio związane z RAG i wymaga znacznego nakładu pracy na rozwój i zarządzanie modelem. RAG wykorzystuje istniejące LLM i wzbogaca je o dane zewnętrzne, a nie tworzy nowe modele. Konwersja danych na wektory i przechowywanie ich w Amazon Neptune (bazie danych grafów, a nie typowej bazie wektorowej) wymagałoby ręcznej implementacji wektoryzacji i zarządzania bazą danych, co zwiększa nakład operacyjny w porównaniu do zarządzanej usługi Bedrock Knowledge Bases.