Bir şirket, alana özgü teknik bilgi gerektiren çeşitli görevleri yerine getirmesi gereken önceden eğitilmiş bir büyük dil modeli (LLM) kullanıyor. LLM'nin bazı alan konularında bilgisi eksik ve şirketin ayarlama için etiketlenmemiş alan verileri mevcut. Şirket hangi ince ayar yaklaşımını kullanmalıdır?

Şirketin etiketlenmemiş alan verileri mevcut olduğu ve LLM'nin alan bilgisi eksik olduğu için, devam eden ön eğitim en uygun yaklaşımdır. Bu yöntem, önceden eğitilmiş modelin etiketlenmemiş alan metni üzerinde daha fazla eğitilmesini sağlayarak, modelin alanla ilgili terminoloji ve kavramları öğrenmesine yardımcı olur. Tam eğitim, sıfırdan başlamak anlamına gelir ve mevcut önceden eğitilmiş modelin avantajlarından yararlanmaz, bu da maliyetli ve zaman alıcıdır. Denetimli ince ayar, etiketli verilere ihtiyaç duyar; ancak şirketin elinde etiketlenmemiş veriler bulunmaktadır. Retrieval Augmented Generation (RAG), modelin alan bilgisini artırmaz, yalnızca çıkarım sırasında harici belgelerden bilgi almasını sağlar; bu, temel alan bilgisini geliştirmekten farklıdır.