Une grande banque de détail souhaite qu'un système ML guide les décisions d'attribution de prêts pour différents groupes démographiques. Quelle action est nécessaire pour garantir que le modèle est impartial ?

L'évaluation du déséquilibre des classes dans les données d'entraînement et l'ajustement du processus d'entraînement sont cruciaux pour l'impartialité. Si un groupe démographique est sous-représenté ou si les résultats (par exemple, l'approbation de prêt) sont fortement déséquilibrés pour certains groupes, le modèle peut apprendre des biais et prendre des décisions injustes. Des techniques comme le suréchantillonnage, le sous-échantillonnage ou l'utilisation de fonctions de perte pondérées peuvent corriger cela. Réduire la taille de l'ensemble de données d'entraînement est généralement contre-productif et peut dégrader les performances. Forcer les prédictions à correspondre aux décisions historiques perpétuerait les biais existants. Construire des modèles distincts peut être une solution dans certains cas, mais l'évaluation du déséquilibre des classes est une étape fondamentale et souvent suffisante pour garantir l'équité au sein d'un modèle unique.