Een AI-specialist merkt op dat een groot taalmodel verschillende outputs retourneert voor dezelfde input bij meerdere runs. Welk AI-risico beschrijft dit gedrag?

Nondeterminisme beschrijft het gedrag van een AI-model, zoals een groot taalmodel, dat verschillende outputs produceert voor dezelfde input. Dit komt vaak voor bij generatieve modellen door de stochastische aard van hun interne mechanismen (bijvoorbeeld het gebruik van random seeds of sampling-methoden). Hallucinaties verwijzen naar het genereren van plausibel klinkende, maar feitelijk onjuiste of onzinnige informatie. Hoewel nondeterminisme kan bijdragen aan hallucinaties, is het niet hetzelfde concept. Nauwkeurigheid is een maatstaf voor hoe correct de output van een model is, en is geen risico op zich, maar een prestatie-indicator. Multimodaliteit verwijst naar het vermogen van een AI-model om verschillende soorten gegevens (tekst, afbeeldingen, audio) te verwerken en te genereren, en beschrijft niet het inconsistentieprobleem.