Um grande banco de varejo deseja um sistema de ML para orientar as decisões de alocação de empréstimos em diferentes grupos demográficos. Que ação é necessária para ajudar a garantir que o modelo seja imparcial?

Avaliar o desequilíbrio de classes e ajustar o treinamento é crucial para a imparcialidade. Se um grupo demográfico estiver sub-representado nos dados de treinamento (desequilíbrio de classes), o modelo pode aprender a fazer previsões menos precisas ou tendenciosas para esse grupo. Ajustar o processo de treinamento (por exemplo, com superamostragem, subamostragem ou ponderação de classes) ajuda o modelo a aprender de forma mais equitativa. Reduzir o tamanho do conjunto de dados de treinamento pode diminuir a precisão geral do modelo. Forçar previsões a corresponderem a decisões históricas pode perpetuar vieses existentes. Construir modelos separados para cada grupo demográfico pode ser ineficiente e ainda não garante a ausência de viés se os dados de treinamento de cada grupo forem desequilibrados ou tendenciosos.