Eine große Privatkundenbank möchte ein ML-System, das die Entscheidungen zur Kreditvergabe über verschiedene demografische Gruppen hinweg steuert. Welche Maßnahme ist erforderlich, um sicherzustellen, dass das Modell unvoreingenommen ist?

Die Bewertung des Klassenungleichgewichts in den Trainingsdaten und die entsprechende Anpassung des Trainingsprozesses ist entscheidend, um Fairness zu gewährleisten. Ein Ungleichgewicht kann dazu führen, dass das Modell bestimmte demografische Gruppen diskriminiert, da es weniger Daten über sie hat. Techniken wie Oversampling, Undersampling oder die Verwendung spezieller Algorithmen können dies beheben. Die Reduzierung der Trainingsdatensatzgröße ist kontraproduktiv, da sie die Modellleistung mindert. Das Erzwingen der Übereinstimmung mit historischen Entscheidungen perpetuiert bestehende Vorurteile. Separate Modelle für jede Gruppe könnten zu komplexer Verwaltung und potenziell zu unterschiedlichen Leistungsniveaus führen, anstatt das zugrunde liegende Problem der Voreingenommenheit zu lösen.