Un sistema di intelligenza artificiale ospedaliero deve fornire suggerimenti di trattamento personalizzati e spiegarne il ragionamento in un modo che medici e pazienti possano comprendere. Quale principio di progettazione incentrato sull'uomo riflette questo?

La spiegabilità (Explainability) è il principio chiave che richiede ai sistemi di intelligenza artificiale di essere in grado di comunicare il loro funzionamento e il ragionamento alla base delle loro decisioni in modo comprensibile agli esseri umani. In un contesto ospedaliero, questo è cruciale affinché medici e pazienti possano fidarsi dei suggerimenti di trattamento e capire il perché di determinate raccomandazioni. La privacy e sicurezza si riferiscono alla protezione dei dati, l'equità all'assenza di bias e la data governance alla gestione dei dati, tutti principi importanti ma non direttamente correlati alla comprensione del ragionamento del sistema.