Una entidad crediticia está creando una solución de IA generativa para ofrecer descuentos a nuevos solicitantes y quiere minimizar el sesgo que podría afectar negativamente a algunos clientes. ¿Qué acciones debería tomar? (Elija dos)

Para minimizar el sesgo en una solución de IA generativa que ofrece descuentos, es crucial detectar desequilibrios o disparidades en los datos. Si los datos de entrenamiento están sesgados, el modelo aprenderá y perpetuará esos sesgos, afectando negativamente a ciertos grupos de clientes. Corregir estos desequilibrios es fundamental para la equidad. Además, evaluar el comportamiento del modelo permite a la empresa comprender cómo toma decisiones y si esas decisiones son justas. Esta evaluación es clave para ofrecer transparencia a las partes interesadas y para identificar y mitigar cualquier sesgo emergente. Asegurarse de que el modelo se ejecute con frecuencia y que el tiempo de inferencia esté dentro de los límites aceptados son consideraciones operativas, no directamente relacionadas con la minimización del sesgo. Usar la métrica ROUGE es para evaluar la calidad del texto generado, no la precisión general del modelo ni su sesgo.