Ein Unternehmen hat ein KI-gesteuertes System zur Überprüfung von Lebensläufen entwickelt, das einen großen Datensatz verwendet, der einige demografische Gruppen unterrepräsentiert. Welches zentrale Prinzip verantwortungsvoller KI veranschaulicht dieses Szenario?

Dieses Szenario verdeutlicht das Prinzip der Fairness. Ein KI-System, das auf einem Datensatz trainiert wird, der bestimmte demografische Gruppen unterrepräsentiert, kann zu voreingenommenen Entscheidungen führen, die diese Gruppen benachteiligen. Das Prinzip der Fairness zielt darauf ab, sicherzustellen, dass KI-Systeme keine Diskriminierung verursachen und für alle Benutzer gerechte Ergebnisse liefern. Erklärbarkeit (Explainability) befasst sich damit, wie verständlich die Entscheidungen eines KI-Systems sind. Datenschutz und Sicherheit (Privacy and Security) konzentrieren sich auf den Schutz sensibler Daten. Transparenz (Transparency) bezieht sich auf die Offenlegung der Funktionsweise und der Daten, die ein KI-System verwendet. Obwohl diese Prinzipien wichtig sind, ist die direkte Folge der Datenunterrepräsentation in diesem Fall die mangelnde Fairness.