Una empresa de contabilidad está implementando un sistema de procesamiento de documentos basado en LLM y quiere seguir prácticas de IA responsable. ¿Qué dos acciones debería tomar la empresa durante el desarrollo y la implementación? (Elija dos).

Para seguir prácticas de IA responsable, es crucial abordar la equidad y el sesgo. Incluir métricas de equidad para la evaluación del modelo permite cuantificar y monitorear si el sistema se desempeña de manera justa en diferentes grupos demográficos o categorías, identificando posibles sesgos en sus resultados. Modificar los datos de entrenamiento para mitigar el sesgo es fundamental porque los LLM aprenden de los datos; si los datos contienen sesgos históricos o representaciones desequilibradas, el modelo los perpetuará. La limpieza, el aumento o el reequilibrio de los datos de entrenamiento son pasos proactivos para reducir estos sesgos desde la fuente. Ajustar la temperatura o aplicar prompt engineering son técnicas de optimización del rendimiento o la salida, no directamente de IA responsable. Evitar el sobreajuste es una buena práctica de ML general, pero no aborda específicamente la equidad o el sesgo.