Un sistema ML di telecamere di sicurezza segnala in modo sproporzionato persone di un particolare gruppo etnico. Che tipo di bias sta causando questo risultato iniquo?

Il bias di campionamento si verifica quando i dati utilizzati per addestrare il modello ML non sono rappresentativi della popolazione reale. In questo caso, se il dataset di addestramento conteneva un numero sproporzionato di persone di un certo gruppo etnico o non includeva sufficientemente altri gruppi, il modello imparerà a identificare in modo più accurato o a segnalare più frequentemente quel gruppo, portando a risultati iniqui. Il bias di misurazione riguarda errori nella raccolta o nella registrazione dei dati. Il bias dell'osservatore si riferisce all'influenza delle aspettative dell'osservatore sui risultati. Il bias di conferma è la tendenza a interpretare nuove informazioni in modo da confermare le proprie convinzioni preesistenti.