Met behulp van SageMaker Clarify ontdekte een ML-specialist dat de trainingsdata aanzienlijk minder voorbeelden bevatten voor klanten van 40-55 jaar dan voor andere leeftijdsgroepen. Welk type pretraining data bias vertegenwoordigt deze observatie?

De observatie dat de trainingsdata aanzienlijk minder voorbeelden bevatten voor klanten van 40-55 jaar dan voor andere leeftijdsgroepen, duidt op een ongelijkmatige verdeling van de data over verschillende demografische groepen. Dit is een klassiek voorbeeld van Class Imbalance (CI), waarbij bepaalde klassen of groepen ondervertegenwoordigd zijn in de dataset. Dit kan leiden tot een model dat minder goed presteert op deze ondervertegenwoordigde groepen. Difference in proportions of labels (DPL) meet verschillen in de verdeling van labels tussen groepen, niet de verdeling van de groepen zelf. Conditional demographic disparity (CDD) meet bias in modelvoorspellingen, geconditioneerd op gevoelige attributen, wat pas relevant is na training. De Kolmogorov–Smirnov (KS) test is een statistische test om te bepalen of twee datadistributies significant van elkaar verschillen, geen type bias op zich.