Bir yapay zeka uzmanı, pazarlama metni oluşturmak için bir LLM kullanır. Metin kulağa mantıklı ve yetkili geliyor ancak yanlış bilgiler içeriyor. Model hangi sorunu sergiliyor?

Doğru cevap halüsinasyondur. Büyük Dil Modelleri (LLM'ler), mantıklı ve akıcı görünen ancak gerçekte yanlış veya uydurma bilgiler ürettiğinde halüsinasyon sergiler. Bu durum, modelin eğitim verilerindeki kalıpları öğrenmesi ancak gerçek dünya bilgisi veya doğruluğu konusunda bir anlayışa sahip olmamasından kaynaklanır. Diğer seçenekler neden yanlış: Veri sızıntısı (Data leakage), modelin eğitim sırasında test verilerinden bilgi alması durumudur, bu da gerçek dünya performansını yanıltıcı bir şekilde artırır. Aşırı uyum (Overfitting), modelin eğitim verilerini ezberlemesi ve yeni, görünmeyen veriler üzerinde kötü performans göstermesidir. Yetersiz uyum (Underfitting), modelin eğitim verilerindeki temel kalıpları öğrenememesi ve hem eğitim hem de test verilerinde kötü performans göstermesidir.