Un sistema de ML de cámaras de seguridad está marcando desproporcionadamente a personas de un grupo étnico particular. ¿Qué tipo de sesgo está causando este resultado injusto?

El sesgo de muestreo ocurre cuando los datos utilizados para entrenar un modelo de ML no representan adecuadamente a la población real. En este caso, si el sistema de cámaras de seguridad fue entrenado predominantemente con imágenes de un grupo étnico, su rendimiento será deficiente y sesgado al identificar a personas de otros grupos. Esto lleva a una clasificación injusta y desproporcionada. El sesgo de medición se refiere a errores en la forma en que se recopilan o miden los datos. El sesgo del observador implica que las expectativas del observador influyen en los resultados. El sesgo de confirmación es la tendencia a buscar o interpretar información que confirma las creencias preexistentes. Ninguno de estos describe la causa principal del problema en este escenario.