El sistema de IA de un hospital debe ofrecer sugerencias de tratamiento personalizadas y explicar el razonamiento de forma que los médicos y los pacientes puedan entenderlo. ¿Qué principio de diseño centrado en el ser humano refleja esto?

La explicabilidad es el principio que asegura que los sistemas de IA puedan comunicar su razonamiento de manera comprensible para los usuarios humanos. En este caso, el sistema debe explicar sus sugerencias de tratamiento para que médicos y pacientes confíen en ellas y las entiendan. La privacidad y seguridad se refieren a la protección de datos sensibles. La equidad busca evitar sesgos y asegurar un trato justo. La gobernanza de datos se ocupa de la gestión y el uso de los datos. Si bien todos son importantes, solo la explicabilidad aborda directamente la necesidad de comprender el "porqué" de las decisiones del sistema.