Uma empresa financeira está desenvolvendo um aplicativo de IA generativa para auxiliar nas decisões de aprovação de empréstimos e exige resultados justos e responsáveis. Qual ação ajuda a atingir esse requisito?

Ação correta: Examinar os dados de treinamento em busca de vieses e garantir que incluam dados representativos de todos os grupos demográficos. Para garantir resultados justos e responsáveis em um aplicativo de IA generativa para aprovação de empréstimos, é fundamental que os dados de treinamento sejam imparciais e representativos. Vieses nos dados podem levar a decisões discriminatórias. Uma rede neural profunda (opção incorreta) não garante justiça; na verdade, pode amplificar vieses existentes. Manter o processo de decisão em segredo (opção incorreta) impede a auditoria e a identificação de vieses. Monitorar o modelo apenas com um conjunto de dados de teste fixo (opção incorreta) não detecta vieses que podem surgir com novos dados ao longo do tempo.