Een ML-systeem voor beveiligingscamera's markeert onevenredig veel mensen van een bepaalde etnische groep. Welke soort bias veroorzaakt deze oneerlijke uitkomst?

Steekproefbias (sampling bias) treedt op wanneer de gegevens die gebruikt worden om een ML-model te trainen, niet representatief zijn voor de werkelijke populatie of de omgeving waarin het model zal worden ingezet. In dit geval is de trainingsdata van het beveiligingscamerasysteem waarschijnlijk onvoldoende divers wat betreft etniciteit, waardoor het model minder goed presteert bij het herkennen van personen uit ondervertegenwoordigde groepen. Dit leidt tot een oneerlijke uitkomst. Meetbias (measurement bias) heeft te maken met onnauwkeurigheden in de manier waarop gegevens worden verzameld. Waarnemersbias (observer bias) en bevestigingsbias (confirmation bias) zijn menselijke cognitieve biases die de interpretatie van gegevens beïnvloeden, maar niet direct de oorzaak zijn van dit specifieke probleem in de trainingsdata.