Bank dostroił duży model językowy (LLM) w celu przyspieszenia zatwierdzania pożyczek. Zewnętrzny audyt wykazał, że model zatwierdza pożyczki szybciej dla jednej grupy demograficznej niż dla innych. Jakie jest najbardziej opłacalne rozwiązanie?

Model LLM odzwierciedla stronniczość obecną w danych treningowych. Jeśli dane treningowe nie reprezentują równomiernie wszystkich grup demograficznych, model może wykazywać nieuczciwe zachowania. Dodanie bardziej zróżnicowanych danych treningowych i ponowne dostrojenie modelu jest najbardziej opłacalnym i bezpośrednim sposobem na zmniejszenie tej stronniczości, ponieważ wykorzystuje istniejący model. Użycie RAG nie rozwiąże problemu stronniczości w samym modelu. AWS Trusted Advisor nie jest narzędziem do eliminowania stronniczości w modelach ML. Wstępne trenowanie nowego LLM od podstaw jest znacznie droższe i czasochłonne niż ponowne dostrojenie istniejącego modelu.