System rekomendacji ofert pracy w firmie generuje różne sugestie w zależności od płci dla profili użytkowników, które są poza tym identyczne. Zgodnie z najlepszymi praktykami AWS w zakresie odpowiedzialnej sztucznej inteligencji, którą zasadę przewodnią firma powinna zastosować, aby naprawić to odchylenie?

Poprawną zasadą jest Sprawiedliwość (Fairness). Problem polega na tym, że system rekomenduje różne oferty pracy na podstawie płci, mimo że inne dane profilu są identyczne. Jest to klasyczny przykład stronniczości (bias), który prowadzi do niesprawiedliwego traktowania różnych grup użytkowników. Zapewnienie sprawiedliwości oznacza dążenie do tego, aby systemy AI nie dyskryminowały i nie generowały stronniczych wyników dla żadnej grupy, niezależnie od atrybutów takich jak płeć. Inne opcje są nieprawidłowe: Zarządzanie (Governance) odnosi się do ogólnych ram i procesów nadzorowania AI, a nie do konkretnego problemu stronniczości w wynikach. Wyjaśnialność (Explainability) dotyczy zrozumienia, dlaczego system podjął daną decyzję, ale nie naprawia samej niesprawiedliwości. Kontrolowalność (Controllability) odnosi się do zdolności do modyfikowania i sterowania zachowaniem systemu AI, co jest środkiem, a nie zasadą przewodnią w tym kontekście.