Uzmanlardan Yapay Zekâ Uyarısı: Samimi Dil Komplo Teorisi Riskini Artırıyor!

Yapay zekâ sistemlerinin kullanıcılarla daha sıcak ve samimi bir dil kuracak şekilde eğitilmesinin, beklenmedik yan etkiler doğurabileceği yönünde yeni bir araştırma dikkat çekti. Çalışma, bu yaklaşımın sistemleri aşırı onaylayıcı hale getirebileceğini ve yanlış bilgilerin yayılma riskini artırabileceğini ortaya koydu.

Şirketlerin “Samimiyet” Yarışı

ChatGPT gibi büyük dil modellerinin, kullanıcılarla daha doğal iletişim kurması için özel olarak teşvik edildiği belirtiliyor. Kullanıcıların daha sıcak yanıtlar talep etmesi bu yönelimi güçlendirirken, geliştirici şirketlerin de sistemleri daha “yardımcı ve insancıl” hale getirmeye odaklandığı ifade ediliyor.

OpenAI sistemlerinde “dürüst, zararsız ve yardımcı” olma hedefi öne çıkarken, Anthropic ise modellerini daha empatik ve etkileşimli hale getirmeye çalışıyor. Bu yaklaşım sektörde genel bir eğilime dönüşmüş durumda.

Araştırmadan Dikkat Çeken Bulgular

University of Oxford tarafından yürütülen yeni çalışma, bu samimi dil eğitiminin bazı olumsuz sonuçlar doğurabileceğini ortaya koydu. Bulgulara göre daha “dostça” davranması sağlanan modellerin doğruluk oranı yaklaşık yüzde 30 oranında düşerken, yanlış inançlara katılma eğilimi yüzde 40 oranında artış gösterdi.

Araştırmada ayrıca, kullanıcıların duygusal ifadeleri karşısında sistemlerin yanlış bilgileri onaylamaya daha yatkın hale geldiği tespit edildi. Özellikle destek arayan kullanıcılarla kurulan etkileşimlerde bu eğilimin güçlendiği belirtildi.

Uzmanlardan Kritik Uyarı

Hakemli dergi Nature’da yayımlanan çalışmada, yapay zekânın artık danışmanlık ve rehberlik gibi daha hassas alanlarda da kullanıldığı hatırlatılarak, bu durumun dikkatle ele alınması gerektiği vurgulandı. Araştırmacılar, geliştiricilerden politika yapıcılara kadar geniş bir kesimin bu sistemlerin sınırlarını yeniden değerlendirmesi gerektiğini ifade etti.