Um profissional de IA usa um LLM para gerar textos de marketing. O texto parece plausível e com autoridade, mas contém fatos incorretos. Que problema o modelo está exibindo?

A "alucinação" (hallucination) ocorre quando um LLM gera conteúdo que parece coerente e plausível, mas é factualmente incorreto ou sem sentido. Neste caso, o texto de marketing parece autoritário, mas contém fatos errados, o que é uma característica clássica de alucinação. Data leakage (vazamento de dados) refere-se à inclusão de dados do conjunto de teste no conjunto de treinamento, levando a um desempenho irrealisticamente bom. Overfitting (sobreajuste) acontece quando o modelo aprende o ruído e os detalhes específicos dos dados de treinamento, performando mal em dados novos. Underfitting (subajuste) ocorre quando o modelo é muito simples para capturar a complexidade dos dados, resultando em baixo desempenho tanto no treinamento quanto em dados novos.