Un praticien de l'IA constate qu'un grand modèle linguistique renvoie des sorties différentes pour la même entrée sur plusieurs exécutions. Quel risque lié à l'IA ce comportement décrit-il ?

Le non-déterminisme est le risque lié à l'IA où un modèle produit des sorties différentes pour la même entrée sur plusieurs exécutions. C'est courant avec les grands modèles linguistiques (LLM) en raison de leur nature stochastique et de l'utilisation d'éléments aléatoires dans leur architecture (par exemple, le sampling ou la température). Les hallucinations décrivent des sorties qui semblent plausibles mais sont factuellement incorrectes ou inventées, ce qui est différent d'une simple variation. La précision fait référence à la justesse des prédictions du modèle par rapport à la vérité terrain, et non à la cohérence des sorties. La multimodalité est la capacité d'un modèle à traiter et à générer des informations à partir de plusieurs types de données (texte, image, audio), ce qui n'est pas un risque mais une caractéristique.