Een AI-practitioner gebruikt een LLM om marketingteksten te genereren. De tekst klinkt aannemelijk en gezaghebbend, maar bevat onjuiste feiten. Welk probleem vertoont het model?

Het model vertoont hallucinatie. Dit is een veelvoorkomend probleem bij LLM's waarbij het model overtuigende, maar feitelijk onjuiste of nonsensicale informatie genereert. De tekst klinkt aannemelijk en gezaghebbend, wat kenmerkend is voor hallucinatie. Data leakage (datalek) treedt op wanneer trainingsdata onbedoeld informatie bevatten die niet beschikbaar zou moeten zijn tijdens de inferentie, wat hier niet het geval is. Overfitting betekent dat het model te goed presteert op de trainingsdata, maar slecht generaliseert naar nieuwe data; het genereert dan geen onjuiste feiten op deze manier. Underfitting betekent dat het model te simpel is en de onderliggende patronen in de data niet goed leert.