Um chatbot construído em um modelo de base Amazon Bedrock pesquisa um grande corpus de artigos de pesquisa, mas seu desempenho é ruim devido a muitos termos científicos especializados. Após a engenharia de prompt, o desempenho ainda é inadequado. O que a empresa deve fazer para melhorar o chatbot?

O fine-tuning de adaptação de domínio é a solução mais eficaz porque treina o modelo de base com dados específicos do domínio (artigos científicos), permitindo que ele aprenda a terminologia complexa e melhore sua compreensão e geração de respostas nesse contexto. Usar few-shot prompting pode ajudar a guiar o modelo, mas não o ensina a compreender fundamentalmente termos novos e complexos. Ajustar os parâmetros de inferência (como temperatura ou top-p) altera o estilo da resposta, mas não a capacidade do modelo de entender o conteúdo. Limpar os textos dos artigos de pesquisa para remover termos científicos complexos é contraproducente, pois o objetivo é que o chatbot lide com essa terminologia.