System ML kamery bezpieczeństwa nieproporcjonalnie często oznacza osoby z określonej grupy etnicznej. Jaki rodzaj stronniczości powoduje ten niesprawiedliwy wynik?

Błąd stronniczości próbkowania (sampling bias) występuje, gdy dane użyte do trenowania modelu AI nie są reprezentatywne dla rzeczywistej populacji, którą model ma obsługiwać. W tym przypadku, jeśli system ML był trenowany na danych, które nie zawierały wystarczającej liczby osób z danej grupy etnicznej lub zawierały nieproporcjonalnie dużo fałszywych alarmów dla tej grupy, model może nauczyć się niesprawiedliwego wzorca. Błąd pomiaru (measurement bias) dotyczy niedokładności w zbieraniu danych. Błąd obserwatora (observer bias) odnosi się do wpływu oczekiwań obserwatora na wyniki. Błąd potwierdzenia (confirmation bias) to tendencja do interpretowania informacji w sposób potwierdzający istniejące przekonania.