Bir yapay zeka uzmanı, büyük bir dil modelinin aynı girdi için birden fazla çalıştırmada farklı çıktılar döndürdüğünü fark eder. Bu davranış hangi yapay zeka riskini tanımlar?

Doğru cevap Nondeterminism'dir. Büyük dil modellerinin (LLM'ler) aynı girdi için birden fazla çalıştırmada farklı çıktılar üretmesi, deterministik olmamasından kaynaklanan bir özelliktir. Bu durum, modelin içsel rastgelelik veya karmaşık hesaplama süreçleri nedeniyle her seferinde tam olarak aynı yolu izlememesinden kaynaklanır. Hallucinations (Halüsinasyonlar), modelin gerçekte var olmayan veya girdiyle ilgili olmayan yanlış veya uydurma bilgiler üretmesidir. Bu durum, modelin tutarlı ancak yanlış bilgi vermesiyle ilgilidir, farklı çıktılar üretmesiyle değil. Accuracy (Doğruluk), modelin doğru sonuçlar üretme yeteneğini ifade eder ve modelin çıktılarının değişkenliğiyle doğrudan ilgili değildir. Multimodality (Çok modluluk), bir modelin farklı veri türlerini (metin, görüntü, ses vb.) işleyebilme yeteneğidir ve bu senaryoyla alakasızdır.