Ein ML-System für Überwachungskameras markiert überproportional viele Personen einer bestimmten ethnischen Gruppe. Welche Art von Bias verursacht dieses unfaire Ergebnis?

Ein Stichprobenfehler (Sampling bias) tritt auf, wenn die Trainingsdaten nicht repräsentativ für die reale Welt sind. Wenn das ML-System hauptsächlich mit Bildern von Personen einer bestimmten ethnischen Gruppe trainiert wurde, wird es Schwierigkeiten haben, andere Gruppen korrekt zu identifizieren, was zu einer überproportionalen Markierung führt. Messfehler (Measurement bias) beziehen sich auf Ungenauigkeiten bei der Datenerfassung selbst, nicht auf die Zusammensetzung der Stichprobe. Beobachterfehler (Observer bias) und Bestätigungsfehler (Confirmation bias) sind menschliche kognitive Verzerrungen, die die Interpretation von Daten beeinflussen, aber nicht direkt die Datenverteilung im Trainingsset verursachen.