Un système de ML de caméra de sécurité signale de manière disproportionnée des personnes issues d'un groupe ethnique particulier. Quel type de biais est à l'origine de ce résultat inéquitable ?

Le biais d'échantillonnage se produit lorsque les données utilisées pour entraîner un modèle de ML ne sont pas représentatives de la population réelle. Dans ce cas, si le système de caméra de sécurité a été entraîné principalement avec des images de personnes d'un certain groupe ethnique, il pourrait avoir des difficultés à identifier correctement d'autres groupes, entraînant un signalement disproportionné. Le biais de mesure concerne des erreurs dans la collecte ou l'enregistrement des données. Le biais d'observateur est une erreur humaine dans l'interprétation des observations. Le biais de confirmation est la tendance à interpréter de nouvelles informations de manière à confirmer des croyances existantes.