Amazon Bedrock temel modelini temel alan bir sohbet robotu, geniş bir araştırma makaleleri kümesini arıyor ancak birçok özel bilimsel terim nedeniyle kötü performans gösteriyor. Prompt mühendisliğinden sonra bile performans yetersiz kalıyor. Şirket, sohbet robotunu iyileştirmek için ne yapmalı?

Sohbet robotunun özel bilimsel terimlerle kötü performans göstermesi, temel modelin bu alana özgü terminolojiye yeterince aşina olmadığını gösterir. Alan adaptasyonu ince ayarı (domain-adaptation fine-tuning), modeli belirli bir alandaki (bu durumda bilimsel makaleler) verilerle daha fazla eğiterek, o alandaki dil ve kavramları daha iyi anlamasını sağlar. Bu, modelin karmaşık bilimsel terminolojiyi öğrenmesine ve bu terimleri içeren sorgulara daha doğru yanıtlar vermesine yardımcı olur. Few-shot prompting, modelin belirli bir çıktı formatını veya stilini anlamasına yardımcı olabilir, ancak modelin temel terminoloji bilgisini artırmaz. Çıkarım parametrelerini ayarlamak (örneğin sıcaklık veya top-p), modelin yanıtlarının yaratıcılığını veya çeşitliliğini etkiler, ancak yine temel bilgi eksikliğini gidermez. Araştırma makalesi metinlerini temizlemek, değerli terminolojinin kaybolmasına neden olur ve modelin bu terimleri öğrenme fırsatını ortadan kaldırır.