Un chatbot construido sobre un modelo fundacional de Amazon Bedrock busca en un gran corpus de artículos de investigación, pero su rendimiento es deficiente debido a la gran cantidad de términos científicos especializados. Después de la ingeniería de prompts, el rendimiento sigue siendo inadecuado. ¿Qué debería hacer la empresa para mejorar el chatbot?

La adaptación de dominio (domain-adaptation fine-tuning) es la solución más efectiva porque permite al modelo fundacional aprender y comprender la terminología científica compleja específica del corpus de artículos de investigación. Esto mejora significativamente su capacidad para procesar y generar respuestas relevantes en ese dominio. El few-shot prompting es útil para guiar el formato de respuesta, pero no enseña al modelo nuevos conocimientos de dominio. Ajustar los parámetros de inferencia (como la temperatura o el top-p) influye en la creatividad o la coherencia de las respuestas, pero no en la comprensión del vocabulario especializado. Limpiar los textos eliminando términos científicos complejos es contraproducente, ya que el objetivo es que el chatbot maneje precisamente esa terminología.