Ein KI-Praktiker stellt fest, dass ein großes Sprachmodell bei mehreren Durchläufen unterschiedliche Ausgaben für dieselbe Eingabe liefert. Welches KI-Risiko beschreibt dieses Verhalten?

Nicht-Determinismus beschreibt das Verhalten eines KI-Modells, das bei identischen Eingaben unterschiedliche Ausgaben erzeugt. Dies ist bei großen Sprachmodellen (LLMs) aufgrund ihrer komplexen Architekturen und der Verwendung von Zufallselementen (z. B. Sampling-Methoden wie Top-k oder Nucleus Sampling) während der Textgenerierung üblich. Halluzinationen sind sachlich falsche oder erfundene Informationen, die von einem Modell generiert werden, während Nicht-Determinismus die Variabilität der Ausgabe betrifft, auch wenn die Ausgabe korrekt sein könnte. Genauigkeit bezieht sich auf die Korrektheit der Ausgaben im Vergleich zu einer Referenz. Multimodalität beschreibt die Fähigkeit eines Modells, verschiedene Datentypen (z. B. Text, Bilder, Audio) zu verarbeiten und zu verstehen.