Bir muhasebe firması, LLM tabanlı bir belge işleme sistemi kuruyor ve sorumlu yapay zeka uygulamalarını takip etmek istiyor. Geliştirme ve dağıtım sırasında firmanın atması gereken iki adım nedir? (İki tane seçin.)

Bir muhasebe firmasının sorumlu yapay zeka uygulamalarını takip etmesi için iki önemli adım, model değerlendirmesine adalet metriklerini dahil etmek ve yanlılığı azaltmak için eğitim verilerini değiştirmektir. Adalet metrikleri, modelin farklı demografik gruplar veya hassas özellikler üzerindeki performansını değerlendirerek ayrımcılık veya haksız sonuçlar üretip üretmediğini belirlemeye yardımcı olur. Eğitim verilerini değiştirmek, veri toplama veya etiketleme süreçlerindeki mevcut yanlılıkları düzelterek modelin daha dengeli ve adil kararlar almasını sağlar. Modelin temperature parametresini ayarlamak, modelin yaratıcılığını veya belirleyiciliğini etkiler ancak doğrudan sorumlu yapay zeka uygulamalarıyla ilgili değildir. Eğitim verilerinde aşırı uyumu (overfitting) önlemek, modelin genellenebilirliğini artırır ancak adalet veya yanlılık gibi sorumlu yapay zeka endişelerini doğrudan ele almaz. Prompt engineering tekniklerini uygulamak, modelin belirli görevler için çıktısını optimize etmeye yardımcı olur ancak modelin temel yanlılıklarını veya adalet sorunlarını çözmez.