System AI w szpitalu musi dostarczać spersonalizowane sugestie dotyczące leczenia i wyjaśniać swoje rozumowanie w sposób zrozumiały dla klinicystów i pacjentów. Jaką zasadę projektowania skoncentrowanego na człowieku to odzwierciedla?

Wyjaśnialność (Explainability) jest kluczowa, ponieważ system AI musi być w stanie przedstawić swoje wnioski i rekomendacje w sposób zrozumiały dla użytkowników, takich jak klinicyści i pacjenci. W kontekście medycznym, gdzie decyzje mają bezpośredni wpływ na zdrowie i życie, zrozumienie, dlaczego AI sugeruje konkretne leczenie, jest niezbędne do budowania zaufania i zapewnienia bezpiecznego oraz etycznego stosowania technologii. Prywatność i bezpieczeństwo dotyczą ochrony danych, uczciwość odnosi się do unikania uprzedzeń, a zarządzanie danymi dotyczy cyklu życia danych, a nie bezpośredniego wyjaśniania rozumowania AI.