Un gran banco minorista desea un sistema de ML para guiar las decisiones de asignación de préstamos entre diferentes grupos demográficos. ¿Qué acción se necesita para ayudar a garantizar que el modelo no tenga sesgos?

Evaluar el desequilibrio de clases en los datos de entrenamiento y ajustar el proceso de entrenamiento en consecuencia es crucial para mitigar el sesgo. Si un grupo demográfico está subrepresentado en los datos de entrenamiento (desequilibrio de clases), el modelo podría aprender a favorecer al grupo mayoritario, llevando a decisiones injustas en la asignación de préstamos. Ajustar el proceso de entrenamiento (por ejemplo, con sobremuestreo, submuestreo o pesos de clase) ayuda a que el modelo aprenda de manera más equitativa de todos los grupos. Reducir el tamaño del conjunto de datos de entrenamiento podría empeorar el sesgo al disminuir la diversidad de los datos. Forzar las predicciones para que coincidan con decisiones históricas podría perpetuar sesgos existentes en esos datos. Construir modelos separados para cada grupo demográfico es una estrategia más compleja y no siempre necesaria; la mitigación del sesgo a nivel de datos suele ser un primer paso más efectivo.