Le système d'IA d'un hôpital doit fournir des suggestions de traitement personnalisées et expliquer le raisonnement d'une manière que les cliniciens et les patients peuvent comprendre. Quel principe de conception centré sur l'humain cela reflète-t-il ?

L'explicabilité est le principe qui garantit que les systèmes d'IA peuvent expliquer leur raisonnement et leurs décisions d'une manière compréhensible par les humains. Dans ce scénario, il est crucial que les cliniciens et les patients comprennent pourquoi une suggestion de traitement particulière est faite pour instaurer la confiance et permettre une prise de décision éclairée. La confidentialité et la sécurité concernent la protection des données, l'équité vise à prévenir les biais, et la gouvernance des données concerne la gestion des données, aucun de ces principes ne répond directement au besoin de comprendre le raisonnement du système d'IA.