Halüsinasyon (yapay zekâ)

Bir ChatGPT halüsinasyonu örneği. İnternet bağlantısı olmasa bile, anlamlı anahtar kelimeler içeren sahte bir URL ile bir makaleyi özetlemek istendiğinde, chatbot ilk bakışta geçerli görünen bir yanıt üretiyor.

Halüsinasyon, büyük dil modellerinin (LLM – Large Language Model) kullanıcıya gerçeğe dayanmayan, uydurma veya hatalı bilgi vermesi durumudur. Bu, modelin eğitildiği verilerdeki boşluklar, öğrenme sürecindeki sınırlamalar veya cevap üretme aşamasındaki olasılıksal yapıdan kaynaklanabilir. Terim, tıpta kullanılan "halüsinasyon" kavramından ödünç alınmıştır; zira model, gerçek olmayan verileri “varmış” gibi sunar.

Türleri

LLM halüsinasyonları iki ana kategoriye ayrılır:

Tür	Alt Tür	Açıklama ve Örnek
Gerçeklik Halüsinasyonu	Gerçeklik Çelişkisi	Örneğin "Thomas Edison telefonu icat etti" gibi açıkça yanlış bilgi
	Gerçeğe Dayalı Uydurma	Gerçek kişi ya da olay hakkında uydurma detaylar verilmesi
Sadakat Halüsinasyonu	Talimat Tutarsızlığı	Kullanıcı Türkçe sorduğunda İngilizce cevap verilmesi gibi
	Bağlam Tutarsızlığı	Özet istenirken alakasız veya hatalı bir içerik özetlenmesi
	Mantık Uyuşmazlığı	Basit matematik problemlerinde mantık hataları yapılması

Nedenleri

Halüsinasyonların başlıca nedenleri şunlardır:

1. Eğitim verilerindeki eksiklik ve önyargılar: Model yanlış bilgiyle eğitildiyse, doğru cevap veremez.
2. Yetersiz yönlendirme: Model, kullanıcı isteğini anlamazsa alakasız cevap verebilir.
3. Cevap üretme sürecindeki rastgelelik: LLM’ler deterministik değil; olasılıksal seçim yapar (örneğin “temperature” parametresi).

Azaltma Yöntemleri

Halüsinasyonları azaltmak için kullanılan başlıca yaklaşımlar:

• Veri iyileştirme: Güncel, doğru ve kapsamlı veri setleriyle eğitim.
• İnce ayar (fine-tuning): Belirli görevler için hassaslaştırılmış model eğitimi.
• RAG (Retrieval-Augmented Generation): Modelin dış bilgi kaynaklarına erişerek doğruluğu artırması.
• Düşünme zinciri (Chain-of-Thought): Modelin cevapları adım adım üretmesini sağlayan teknik.

Ayrıca bakınız

• Yapay zeka güvenliği
• Yapay zeka

Kaynakça

1. LLM’leri ve Halüsinasyonları Anlamak
2. Vaswani et al. (2017). Attention is All You Need. NeurIPS.
3. Devlin et al. (2018). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding.
4. Huang et al. (2024). *A Survey on Hallucination in Large Language Models*.
5. Wei et al. (2023). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models.
6. Lakera.ai . The Beginner’s Guide to Hallucinations in LLMs.