Pożyczkodawca tworzy rozwiązanie generatywnej sztucznej inteligencji, aby oferować zniżki nowym wnioskodawcom i chce zminimalizować stronniczość, która mogłaby negatywnie wpłynąć na niektórych klientów. Jakie działania powinien podjąć? (Wybierz dwie odpowiedzi.)

Wykrywanie nierówności lub dysproporcji w danych jest kluczowe, ponieważ stronniczość w modelach generatywnej sztucznej inteligencji często wynika z nierównomiernej lub nieodpowiedniej reprezentacji grup w danych treningowych. Identyfikacja i korekta tych dysproporcji pomaga zapobiegać dyskryminującym wynikom. Ocena zachowania modelu, aby firma mogła zapewnić przejrzystość interesariuszom, jest niezbędna, ponieważ pozwala zrozumieć, jak model podejmuje decyzje i czy jego wyniki są sprawiedliwe. Przejrzystość i możliwość wyjaśnienia działania modelu są kluczowe dla budowania zaufania i minimalizowania stronniczości. Użycie metryki ROUGE jest nieodpowiednie, ponieważ służy do oceny jakości tekstu generowanego przez modele NLP, a nie do mierzenia stronniczości. Częste uruchamianie modelu i czas wnioskowania nie są bezpośrednio związane z minimalizowaniem stronniczości.