Une entreprise a créé un système de sélection de CV basé sur l'IA en utilisant un grand ensemble de données qui sous-représente certains groupes démographiques. Quel principe fondamental de l'IA responsable ce scénario illustre-t-il ?

Ce scénario illustre le principe d'équité. L'équité en IA signifie que les systèmes ne doivent pas perpétuer ou amplifier les biais existants dans les données, ce qui pourrait entraîner des discriminations ou des traitements inégaux envers certains groupes. L'utilisation d'un ensemble de données sous-représentant certains groupes démographiques pour un système de sélection de CV peut conduire à des décisions biaisées, défavorisant ces groupes. L'explicabilité concerne la capacité à comprendre comment un modèle d'IA prend ses décisions. La confidentialité et la sécurité traitent de la protection des données personnelles et de la robustesse du système contre les attaques. La transparence fait référence à la clarté sur le fonctionnement du système et ses objectifs. Bien que ces principes soient importants, le problème principal décrit ici est directement lié à l'équité des résultats du système.