Das KI-System eines Krankenhauses muss personalisierte Behandlungsvorschläge liefern und die Begründung auf eine Weise erklären, die Kliniker und Patienten verstehen können. Welches auf den Menschen ausgerichtete Designprinzip spiegelt dies wider?

Die Erklärbarkeit (Explainability) ist das Designprinzip, das sicherstellt, dass KI-Systeme ihre Entscheidungen und Empfehlungen auf eine Weise kommunizieren können, die für menschliche Benutzer, wie Ärzte und Patienten, verständlich ist. Dies ist entscheidend im Gesundheitswesen, um Vertrauen aufzubauen und die Akzeptanz von KI-gestützten Behandlungsvorschlägen zu fördern. Datenschutz und Sicherheit (Privacy and Security) sind wichtig, beziehen sich aber auf den Schutz sensibler Daten, nicht auf die Verständlichkeit der Systemausgaben. Fairness (Fairness) stellt sicher, dass das System keine Diskriminierung aufgrund von Merkmalen wie Alter oder Geschlecht vornimmt. Data Governance (Data Governance) befasst sich mit der Verwaltung und Kontrolle von Daten über ihren gesamten Lebenszyklus.