Un professionista dell'IA utilizza un LLM per generare testi di marketing. Il testo sembra plausibile e autorevole, ma contiene fatti errati. Quale problema sta manifestando il modello?

Il modello sta manifestando un'allucinazione. Le allucinazioni si verificano quando un LLM genera output che sembrano coerenti e plausibili, ma sono fattualmente errati o privi di senso nel contesto reale. Questo accade perché il modello predice la sequenza di parole più probabile basandosi sui pattern appresi durante l'addestramento, piuttosto che sulla comprensione della verità fattuale. Data leakage (fuga di dati) si riferisce all'uso di dati di test nell'addestramento, portando a una stima eccessivamente ottimistica delle prestazioni. Overfitting (eccessivo adattamento) si verifica quando un modello impara troppo bene i dati di addestramento, perdendo la capacità di generalizzare a nuovi dati. Underfitting (insufficiente adattamento) si ha quando un modello è troppo semplice per catturare i pattern nei dati, risultando in prestazioni scarse sia sui dati di addestramento che su quelli nuovi. Nessuna di queste opzioni descrive il problema di generare fatti errati ma plausibili.