Uma empresa construiu um sistema de triagem de currículos baseado em IA usando um grande conjunto de dados que sub-representa alguns grupos demográficos. Qual princípio central de IA responsável este cenário ilustra?

A sub-representação de grupos demográficos no conjunto de dados de treinamento leva a um sistema de IA que pode ser tendencioso e injusto ao avaliar currículos desses grupos. Isso viola o princípio da Justiça (Fairness), que exige que os sistemas de IA tratem todos os indivíduos e grupos de forma equitativa, sem discriminação. Explicabilidade (Explainability) refere-se à capacidade de entender como um modelo de IA toma suas decisões, o que não é o foco principal aqui. Privacidade e segurança (Privacy and security) tratam da proteção de dados pessoais e da robustez do sistema contra ataques, o que não é o problema central da sub-representação. Transparência (Transparency) está relacionada à abertura sobre o funcionamento do sistema, mas a questão principal é o impacto discriminatório da sub-representação.