Een grote bank wil een ML-systeem gebruiken om beslissingen over leningtoewijzing te sturen voor verschillende demografische groepen. Welke actie is nodig om ervoor te zorgen dat het model onbevooroordeeld is?

Het beoordelen van klasse-onbalans en het aanpassen van het trainingsproces (bijv. door oversampling, undersampling, of het gebruik van aangepaste verliesfuncties) is essentieel om bias te verminderen. Ongebalanceerde datasets kunnen ertoe leiden dat modellen minder goed presteren voor de minderheidsgroep, wat resulteert in oneerlijke leningbeslissingen voor bepaalde demografische groepen. Het verkleinen van de trainingsdataset kan leiden tot onderfitting en slechtere prestaties. Het dwingen van voorspellingen om overeen te komen met historische beslissingen kan bestaande historische bias in het systeem bestendigen. Aparte modellen voor elke demografische groep kunnen complexiteit verhogen en mogelijk nog steeds bias introduceren als de data voor die groepen zelf bevooroordeeld is.