Ein Chatbot, der auf einem Amazon Bedrock Foundation Model basiert, durchsucht einen großen Korpus von Forschungsarbeiten, aber er funktioniert aufgrund vieler spezialisierter wissenschaftlicher Begriffe schlecht. Nach dem Prompt Engineering ist die Leistung immer noch unzureichend. Was sollte das Unternehmen tun, um den Chatbot zu verbessern?

Die Leistung des Chatbots ist unzureichend, weil das Foundation Model (FM) die spezialisierte wissenschaftliche Terminologie nicht versteht. Prompt Engineering, einschließlich Few-shot Prompting, kann die Art und Weise beeinflussen, wie das FM antwortet, aber es kann das grundlegende Verständnis des Modells für neue, domänenspezifische Konzepte nicht verbessern. Domain-Adaptation Fine-Tuning ist die effektivste Methode, um das FM mit dem spezifischen Vokabular und den Konzepten der Forschungsarbeiten zu trainieren. Dadurch wird das Modell in die Lage versetzt, die komplexen wissenschaftlichen Begriffe korrekt zu interpretieren und relevantere Antworten zu generieren. Das Anpassen von Inferenzparametern ändert lediglich das Verhalten des Modells, nicht dessen Wissen. Das Entfernen komplexer Begriffe würde die Qualität der Forschungsarbeiten mindern und die Nützlichkeit des Chatbots für wissenschaftliche Anfragen stark einschränken.