Duży bank detaliczny chce, aby system ML kierował decyzjami o przydzielaniu pożyczek różnym grupom demograficznym. Jakie działanie jest potrzebne, aby zapewnić bezstronność modelu?

Ocena braku równowagi klas w danych treningowych i odpowiednie dostosowanie procesu treningowego jest kluczowe dla zapewnienia bezstronności modelu. Niezrównoważone dane mogą prowadzić do tego, że model będzie gorzej radził sobie z mniejszościowymi grupami demograficznymi, co skutkuje stronniczymi decyzjami. Zmniejszenie rozmiaru zbioru danych treningowych może pogorszyć wydajność modelu. Wymuszanie zgodności z historycznymi decyzjami może utrwalić istniejące uprzedzenia. Budowanie oddzielnych modeli dla każdej grupy demograficznej jest złożone i może nie rozwiązać problemu stronniczości, jeśli dane dla poszczególnych grup są również niezrównoważone.