Bir banka, kredi onaylarını hızlandırmak için büyük bir dil modelini ince ayar yaptı. Harici bir denetim, modelin bir demografik grup için kredileri diğerlerinden daha hızlı onayladığını tespit etti. En uygun maliyetli çözüm nedir?

Modelin belirli bir demografik grup için önyargılı olması, eğitim verilerindeki çeşitlilik eksikliğinden kaynaklanmaktadır. En uygun maliyetli çözüm, mevcut ince ayarlı modeli koruyarak, eksik olan demografik grupları temsil eden daha çeşitli veriler eklemek ve modeli bu yeni verilerle tekrar ince ayardan geçirmektir. Bu yaklaşım, sıfırdan yeni bir model eğitmekten (ki bu çok daha maliyetli ve zaman alıcıdır) veya RAG gibi farklı bir mimari kullanmaktan (ki bu doğrudan önyargı sorununu çözmez) daha etkilidir. AWS Trusted Advisor, maliyet optimizasyonu ve güvenlik gibi alanlarda yardımcı olsa da, modeldeki algoritmik önyargıyı doğrudan gidermez.