Uma empresa precisa de um chatbot para responder a perguntas de funcionários sobre as políticas da empresa. As políticas mudam frequentemente e o chatbot deve refletir as atualizações quase imediatamente. Qual abordagem baseada em LLM satisfaz esse requisito?

A implementação de um pipeline de Geração Aumentada por Recuperação (RAG) usando o Amazon Bedrock Knowledge Bases é a melhor abordagem. O RAG permite que o LLM acesse e utilize informações atualizadas de uma base de conhecimento externa (neste caso, as políticas da empresa) em tempo real, sem a necessidade de retreinamento do modelo. Isso garante que o chatbot sempre responda com as informações mais recentes, mesmo com mudanças frequentes nas políticas. Ajustar um modelo de linguagem grande (Fine-tuning) exigiria retreinamento cada vez que as políticas mudassem, o que é ineficiente e demorado. Escolher um modelo de base (FM) do Amazon Bedrock sem RAG não resolveria o problema de acesso a dados atualizados, pois o modelo só teria conhecimento dos dados com os quais foi pré-treinado. Usar o Amazon Q Business para criar um Q App personalizado é uma boa opção para chatbots, mas o RAG com Knowledge Bases é a solução específica que garante a atualização contínua e imediata das informações para o chatbot.