Una grande banca al dettaglio desidera un sistema di ML per guidare le decisioni di allocazione dei prestiti tra diversi gruppi demografici. Quale azione è necessaria per garantire che il modello sia imparziale?

La valutazione dello squilibrio di classe nei dati di training è fondamentale per l'imparzialità. Se un gruppo demografico è sottorappresentato, il modello potrebbe non imparare a prendere decisioni accurate per quel gruppo, portando a bias. Adattare il processo di training (es. oversampling, undersampling, ponderazione delle classi) aiuta a mitigare questo problema. Ridurre la dimensione del dataset di training è controproducente, in quanto potrebbe limitare la capacità del modello di generalizzare. Forzare le previsioni a corrispondere a decisioni storiche potrebbe perpetuare bias esistenti nei dati passati. Costruire modelli separati per ogni gruppo è una soluzione complessa che non garantisce l'eliminazione dei bias se i dati di training per ciascun modello sono comunque sbilanciati o presentano bias intrinseci.