Компания планирует использовать LLM Amazon Bedrock для создания чат-интерфейса, который ссылается на руководства по продуктам, хранящиеся в виде PDF-файлов. Какой подход является наиболее экономически эффективным?

Правильный ответ — загрузить PDF-документы в базу знаний Amazon Bedrock и использовать эту базу знаний для предоставления контекста для запросов. Этот подход наиболее экономически эффективен, поскольку базы знаний Amazon Bedrock специально разработаны для извлечения информации из ваших данных (например, PDF-файлов) и предоставления ее LLM в качестве контекста. Это позволяет модели отвечать на вопросы, основываясь на ваших документах, без необходимости включать весь объем данных в каждый запрос или выполнять дорогостоящую тонкую настройку. Включение одного или всех PDF-файлов в каждый запрос неэффективно и может быстро превысить лимиты токенов, увеличивая затраты. Тонкая настройка модели с использованием всех PDF-документов является дорогостоящим и трудоемким процессом, который не всегда необходим для задач извлечения информации, и требует значительных вычислительных ресурсов.