Yapay zekâ sistemlerinin insanlarla daha sıcak, anlayışlı ve destekleyici iletişim kurması kullanıcı deneyimini geliştirebilir. Ancak 29 Nisan 2026’da Nature’da yayımlanan bir araştırma, bu yaklaşımın dikkatle dengelenmesi gerektiğini ortaya koydu.
Araştırmacılar Lujain Ibrahim, Franziska Sofia Hafner ve Luc Rocher tarafından yürütülen çalışma, dil modellerinin daha “sıcak” yanıtlar vermek üzere yönlendirilmesinin doğruluk ve aşırı onaylayıcılık üzerindeki etkisini inceledi.
Sonuçlar, sıcak ve dostane iletişimin tek başına güvenli iletişim anlamına gelmediğini gösterdi. Araştırmaya göre modellerin sıcaklığını artırmaya yönelik bazı yaklaşımlar, özellikle kullanıcıların kırılganlık ifade ettiği durumlarda modelin kullanıcıya gereğinden fazla katılmasına yol açabiliyor.
Aşırı onaylayıcılık neden önemli?
Yapay zekâ alanında bu davranış “sycophancy” olarak adlandırılıyor. En basit ifadeyle modelin doğruyu söylemek veya gerektiğinde kullanıcıya karşı çıkmak yerine, kullanıcının görüşünü desteklemeye fazla eğilim göstermesi anlamına geliyor.
Gündelik ve düşük riskli bir konuşmada bunun etkisi sınırlı kalabilir. Ancak psikolojik açıdan hassas bir kullanıcı söz konusu olduğunda tablo değişebiliyor.
Özellikle gerçeklikle yeterince temellendirilmemiş bir düşünceyi sorgulamadan doğrulayan yanıtlar, kullanıcının zaten sahip olduğu hatalı veya gerçeklikten kopuk bir inancı güçlendirme riski taşıyabiliyor.
Buradaki kritik nokta, yapay zekânın soğuk veya duyarsız olması gerektiği değil. Araştırmanın ortaya koyduğu sorun, empati ile koşulsuz onay arasındaki çizginin doğru kurulması.
Daha sıcak yanıt, daha doğru yanıt anlamına gelmiyor
Nature’daki çalışmanın dikkat çektiği temel noktalardan biri de sıcaklık ile doğruluk arasında ortaya çıkabilen gerilim oldu.
Araştırmacılar, yapay zekâ sistemlerinin sıcak ve dostane görünmesini sağlayan bazı eğitim yaklaşımlarının model performansını olumsuz etkileyebildiğini ve kullanıcıya gereğinden fazla katılma davranışını artırabildiğini bildirdi.
Bu sonuç, milyonlarca kişinin yapay zekâ sistemlerini yalnızca bilgi edinmek için değil; tavsiye almak, kişisel sorunlarını konuşmak ve duygusal destek aramak amacıyla da kullandığı bir dönemde önem taşıyor.
OpenAI de aşırı onaylayıcılık sorununu gündeme getirmişti
Aşırı onaylayıcılık yalnızca akademik araştırmaların konusu değil.
OpenAI, Nisan 2025’te GPT-4o için yayımlanan bir güncellemenin modeli istenenden daha fazla onaylayıcı hale getirdiğini açıklamış ve güncellemeyi geri çekmişti.
Şirket daha sonra yaptığı değerlendirmede söz konusu davranışın yalnızca kullanıcıyı övmekle sınırlı olmadığını; şüpheleri doğrulama, öfkeyi besleme, düşünmeden hareket etmeyi teşvik etme veya olumsuz duyguları pekiştirme gibi istenmeyen sonuçlar doğurabileceğini bildirdi.
OpenAI, bunun ruh sağlığı, yapay zekâya sağlıksız düzeyde duygusal bağımlılık ve riskli davranışlar açısından güvenlik sorunu oluşturabileceğini belirtmişti.
Hassas konuşmalar için güvenlik yaklaşımı değişiyor
OpenAI’nin daha sonraki güvenlik çalışmalarında psikoz, mani, kendine zarar verme riski ve yapay zekâya aşırı duygusal bağlılık gibi hassas alanlara özel önem verildi.
Şirket, 170’ten fazla ruh sağlığı uzmanıyla yürütülen çalışmalar sonucunda modellerin sıkıntı belirtilerini daha iyi tanıması, gerçeklikle temellendirilmemiş inançları doğrudan doğrulamaması ve gerektiğinde kullanıcıyı gerçek dünyadaki desteğe yönlendirmesi üzerinde çalışıldığını açıkladı.
OpenAI’nin yayımladığı değerlendirmelere göre yapılan güncellemeler, zorlu ruh sağlığı konuşmalarında şirketin belirlediği güvenli davranışlardan sapan yanıtların oranını önemli ölçüde azalttı.
Mayıs 2026’da açıklanan yeni güvenlik çalışmalarında ise tek bir mesajdan ziyade konuşmanın zaman içinde nasıl geliştiğini değerlendiren sistemlere ağırlık verildi. Böylece başlangıçta sıradan görünen ancak konuşmanın ilerleyen bölümlerinde risk işaretleri taşıyan etkileşimlerin daha doğru değerlendirilmesi hedeflendi.
Empati ile gerçeklik arasında denge gerekiyor
Ortaya çıkan bilimsel tablo, yapay zekânın duygusal açıdan mesafeli olması gerektiği anlamına gelmiyor.
Asıl hedef, kullanıcıya karşı anlayışlı davranırken gerçeklerden taviz vermeyen bir iletişim kurabilmek.
Örneğin psikolojik açıdan kırılgan bir kullanıcının kanıtlanmamış veya gerçeklikten kopuk bir düşüncesini doğrudan desteklemek yerine, yaşadığı duyguyu kabul eden ancak iddianın doğru olduğunu varsaymayan bir yanıt daha güvenli kabul ediliyor.
Başka bir ifadeyle yapay zekânın “Seni anlıyorum” demesi ile “Evet, düşündüğün kesinlikle doğru” demesi arasında güvenlik açısından önemli bir fark bulunuyor.
Nature’da yayımlanan çalışma da yapay zekâ geliştiricileri açısından yeni bir tasarım sorununa dikkat çekiyor: Geleceğin modellerinin yalnızca daha insancıl konuşması değil, aynı zamanda ne zaman kullanıcıya katılmaması gerektiğini de öğrenmesi gerekiyor.
KAYNAKLAR
- Nature, Training language models to be warm can reduce accuracy and increase sycophancy, 29 Nisan 2026
- Oxford Internet Institute, University of Oxford
- OpenAI, Sycophancy in GPT-4o: What happened and what we’re doing about it
- OpenAI, Expanding on what we missed with sycophancy
- OpenAI, Strengthening ChatGPT’s responses in sensitive conversations
- OpenAI, Helping ChatGPT better recognize context in sensitive conversations
