Het AI-systeem van een ziekenhuis moet gepersonaliseerde behandelingssuggesties geven en de redenering uitleggen op een manier die clinici en patiënten kunnen begrijpen. Welk mensgericht ontwerpprincipe weerspiegelt dit?

Explainability (Uitlegbaarheid) is cruciaal wanneer AI-systemen beslissingen nemen die een grote impact hebben, zoals in de gezondheidszorg. Het stelt clinici en patiënten in staat om te begrijpen hoe een behandelingssuggestie tot stand is gekomen, wat essentieel is voor vertrouwen, acceptatie en het kunnen valideren van de aanbeveling. Zonder uitlegbaarheid zouden de suggesties van het AI-systeem als een 'black box' worden ervaren, wat onacceptabel is in een medische context. Privacy en security, fairness en data governance zijn weliswaar belangrijke mensgerichte ontwerpprincipes voor AI, maar ze gaan niet direct over het begrijpen van de redenering achter de AI-uitvoer, wat de kern van deze vraag is.