Um sistema de ML de câmera de segurança está sinalizando desproporcionalmente pessoas de um determinado grupo étnico. Que tipo de viés está causando esse resultado injusto?

O viés de amostragem ocorre quando os dados usados para treinar o modelo de ML não representam adequadamente a população real. Se os dados de treinamento para o sistema de câmera de segurança continham poucas imagens de pessoas de um determinado grupo étnico, o modelo pode ter dificuldade em identificá-las corretamente, levando a sinalizações desproporcionais. O viés de medição refere-se a erros na coleta ou registro dos dados. O viés de observador ocorre quando as expectativas do observador influenciam a percepção. O viés de confirmação é a tendência de interpretar novas evidências como confirmação das crenças existentes. Nenhum desses descreve diretamente a falta de representatividade nos dados de treinamento que causa o problema.