Une entreprise prévoit d'utiliser les LLM Amazon Bedrock pour créer une interface de chat qui fait référence à des manuels de produits stockés sous forme de fichiers PDF. Quelle est l'approche la plus rentable ?

L'approche la plus rentable consiste à utiliser une base de connaissances Amazon Bedrock. Cette méthode permet de stocker et de gérer efficacement les documents PDF. Lorsqu'une invite est soumise, la base de connaissances identifie et extrait les informations pertinentes des PDF pour les fournir comme contexte au LLM. Cela évite d'envoyer des documents entiers à chaque requête, ce qui serait coûteux et inefficace. Inclure un seul fichier PDF pourrait manquer des informations pertinentes, tandis qu'inclure tous les fichiers PDF dépasserait les limites de contexte et augmenterait les coûts. L'affinage d'un modèle est coûteux en temps et en ressources de calcul, et n'est pas l'approche la plus efficiente pour la récupération d'informations à partir de documents existants.