Chatbot zbudowany na modelu podstawowym Amazon Bedrock przeszukuje duży zbiór artykułów naukowych, ale działa słabo z powodu wielu specjalistycznych terminów naukowych. Po inżynierii promptów wydajność nadal jest niewystarczająca. Co firma powinna zrobić, aby ulepszyć chatbota?

Poprawna odpowiedź to dostrajanie (fine-tuning) z adaptacją do domeny. Ponieważ inżynieria promptów okazała się niewystarczająca, model podstawowy wymaga głębszej adaptacji do specyficznej terminologii naukowej. Dostrajanie pozwala na dalsze szkolenie modelu na danych specyficznych dla domeny (artykuły naukowe), co umożliwia mu lepsze zrozumienie i generowanie odpowiedzi związanych z tymi złożonymi terminami. Few-shot prompting może poprawić styl odpowiedzi, ale nie nauczy modelu nowej, złożonej terminologii. Dostosowanie parametrów wnioskowania (np. temperatury) wpływa na kreatywność lub spójność odpowiedzi, ale nie na zrozumienie domeny. Czyszczenie tekstów z terminów naukowych jest sprzeczne z celem chatbota, który ma przeszukiwać i rozumieć te artykuły.