Un profesional de IA utiliza un LLM para generar textos de marketing. El texto suena plausible y autoritario, pero contiene hechos incorrectos. ¿Qué problema está exhibiendo el modelo?

El modelo está exhibiendo una alucinación. Una alucinación en el contexto de los LLM (Grandes Modelos de Lenguaje) ocurre cuando el modelo genera información falsa o sin sentido que se presenta como si fuera un hecho, a menudo con un tono convincente. En este caso, el texto de marketing suena plausible y autoritario, pero contiene hechos incorrectos, lo cual es una característica distintiva de la alucinación. La fuga de datos (data leakage) se refiere a cuando un modelo tiene acceso a información que no debería tener durante el entrenamiento o la inferencia, lo que puede inflar artificialmente su rendimiento. El sobreajuste (overfitting) ocurre cuando un modelo aprende el ruido y los detalles específicos de los datos de entrenamiento, lo que lo hace funcionar mal con datos nuevos. El subajuste (underfitting) ocurre cuando un modelo es demasiado simple para capturar la relación subyacente en los datos de entrenamiento, lo que resulta en un bajo rendimiento tanto en los datos de entrenamiento como en los de prueba. Ninguno de estos problemas describe la generación de información falsa pero plausible.