Een bedrijf heeft een AI-gestuurd CV-screening systeem gebouwd met behulp van een grote dataset die sommige demografische groepen ondervertegenwoordigt. Welk kernprincipe van verantwoorde AI illustreert dit scenario?

Dit scenario illustreert het kernprincipe van Fairness (Rechtvaardigheid). Wanneer een AI-systeem is getraind op een dataset die bepaalde demografische groepen ondervertegenwoordigt, kan dit leiden tot bevooroordeelde resultaten. Het systeem kan kandidaten uit ondervertegenwoordigde groepen onterecht afwijzen of lager rangschikken, wat ongelijke kansen creëert. Dit is een directe schending van het principe van rechtvaardigheid, dat stelt dat AI-systemen eerlijk en onbevooroordeeld moeten zijn en geen discriminatie mogen veroorzaken. Explainability (Uitlegbaarheid) richt zich op het begrijpelijk maken van AI-beslissingen, maar is hier niet de primaire kwestie. Privacy and security (Privacy en beveiliging) gaat over de bescherming van gegevens, wat in dit geval niet direct aan de orde is. Transparency (Transparantie) betreft openheid over hoe een AI-systeem werkt, maar de kern van het probleem hier is de ongelijke behandeling door de data, niet het gebrek aan inzicht in de werking.