Una empresa creó un sistema de selección de currículums impulsado por IA utilizando un gran conjunto de datos que subrepresenta a algunos grupos demográficos. ¿Qué principio central de IA responsable ilustra este escenario?

Este escenario ilustra el principio de Equidad. La subrepresentación de ciertos grupos demográficos en el conjunto de datos de entrenamiento puede llevar a que el sistema de IA sea sesgado y discrimine a esos grupos, lo que resulta en decisiones injustas. La Equidad en la IA busca garantizar que los sistemas de IA traten a todas las personas de manera justa y sin sesgos. Explicabilidad se refiere a entender cómo un modelo toma sus decisiones. Privacidad y seguridad se enfoca en la protección de datos y la robustez del sistema. Transparencia implica la apertura sobre cómo se construyen y operan los sistemas de IA. Aunque estos principios son importantes, el problema principal descrito es la injusticia causada por el sesgo de los datos.