Firma zbudowała system do selekcji CV oparty na sztucznej inteligencji, wykorzystując duży zbiór danych, który niedostatecznie reprezentuje niektóre grupy demograficzne. Którą podstawową zasadę odpowiedzialnego AI ilustruje ten scenariusz?

Ten scenariusz bezpośrednio ilustruje naruszenie zasady Uczciwości (Fairness). System AI, który jest trenowany na danych niedostatecznie reprezentujących pewne grupy demograficzne, prawdopodobnie będzie działał mniej skutecznie lub będzie dyskryminował te grupy, co jest sprzeczne z zasadą sprawiedliwego traktowania wszystkich użytkowników. Wyjaśnialność (Explainability) dotyczy zrozumienia, dlaczego system AI podjął daną decyzję, a nie problemu stronniczości danych. Prywatność i bezpieczeństwo (Privacy and security) odnoszą się do ochrony danych osobowych i zabezpieczeń systemów, co nie jest głównym problemem w tym przypadku. Przejrzystość (Transparency) dotyczy otwartości na temat działania systemu, jego ograniczeń i sposobu, w jaki został zbudowany, ale nie bezpośrednio problemu stronniczości wynikającej z danych treningowych. Głównym problemem jest tutaj nierówne traktowanie wynikające z niedostatecznej reprezentacji danych, co jest sednem uczciwości.