Una empresa financiera está desarrollando una aplicación de IA generativa para ayudar en las decisiones de aprobación de préstamos y requiere resultados justos y responsables. ¿Qué acción ayuda a lograr ese requisito?

Examinar los datos de entrenamiento en busca de sesgos y asegurarse de que incluyan datos representativos de todos los grupos demográficos es crucial para la equidad y la responsabilidad. Los modelos de IA aprenden de los datos que se les proporcionan; si estos datos contienen sesgos o no representan adecuadamente a todos los grupos, el modelo replicará y amplificará esos sesgos en sus decisiones de aprobación de préstamos, lo que resultará en resultados injustos. Usar una red neuronal profunda no garantiza la equidad si los datos subyacentes son sesgados. Mantener en secreto el proceso de decisión del modelo impide la auditoría y la rendición de cuentas. Monitorear solo con un conjunto de datos fijo sin verificaciones continuas no detecta la desviación del modelo o nuevos sesgos que puedan surgir con el tiempo.