OpenAI Açıkladı: ChatGPT Kullanıcılarının Yüzde 0,07’si Psikoz ve İntihar Düşüncesi Sergiliyor

Yapay zekâ devi OpenAI, ChatGPT kullanıcıları arasında dikkat çekici ve endişe verici bir eğilimi kamuoyuyla paylaştı. Şirketin verilerine göre, haftalık aktif kullanıcıların yaklaşık yüzde 0,07’si psikoz, mani veya intihar düşünceleri gibi ruh sağlığıyla ilgili belirtiler gösteriyor.

OpenAI, bu durumların "son derece nadir" olduğunu belirtse de, ChatGPT'nin haftalık 800 milyon aktif kullanıcı sayısına ulaşması nedeniyle bu oranın yüz binlerce kişiye karşılık gelebileceği ifade ediliyor. Ayrıca, kullanıcıların yüzde 0,15’inin sohbetlerinde "intihar planı veya niyeti" olduğuna dair açık işaretler saptandığı açıklandı.

UZMANLAR UYARIYOR: RAKAMLAR CIDDI BIR TABLOYA İŞARET EDIYOR

Uzmanlar, yüzdesel olarak düşük görünen bu rakamların, geniş kullanıcı kitlesi nedeniyle ciddi bir toplumsal tabloya işaret ettiğini dile getiriyor. California Üniversitesi'nden Prof. Jason Nagata, yapay zekânın ruh sağlığı desteğine erişimi artırabileceğini ancak sınırlarının bilincinde olunması gerektiğini ekledi. Prof. Robin Feldman ise, "Yapay zekâ sohbetleri, gerçeğin kuvvetli bir illüzyonunu yaratabiliyor. Bu da bazı kullanıcıları tehlikeye atabiliyor" uyarısında bulundu.

OPENAI'DAN GÜVENLIK ÖNLEMLERI VE İŞ BIRLIKLERI

Bu durumla mücadele etmek amacıyla OpenAI, ChatGPT’nin bu tür durumlara karşı empatik ve güvenli tepkiler vermesi için sistemler geliştirdiğini duyurdu. Şirket, dünya genelinde 60 ülkeden 170’in üzerinde psikiyatrist, psikolog ve aile hekimiyle iş birliği yaparak, kullanıcıları gerçek dünyada profesyonel yardım almaya teşvik eden yanıtlar tasarladıklarını belirtti.

Son güncellemelerde ChatGPT’nin sanrılar, mani veya intihar riskiyle ilgili dolaylı sinyalleri fark ederek daha güvenli yanıtlar verecek şekilde geliştirildiği ve bu tip konuşmaların daha güvenli modellere yönlendirildiği açıklandı. Şirket, BBC’ye yaptığı açıklamada, bu oranın "küçük olsa da anlamlı bir insan grubunu temsil ettiğini" ve konuyu son derece ciddiye aldıklarını ifade etti.

HUKUKI SÜREÇLER BAŞLADI: İLK "HAKSIZ ÖLÜM" DAVASI

OpenAI'nin bu açıklaması, şirketin ChatGPT'nin kullanıcılarla etkileşim biçimi konusunda artan hukuki incelemelerle karşı karşıya olduğu bir döneme denk geldi. Kaliforniya’da bir çift, 16 yaşındaki oğullarının ChatGPT ile yaptığı konuşmalar sonrası intihar ettiği iddiasıyla OpenAI’ye karşı "haksız ölüm" davası açtı. Bu, şirket aleyhine açılan ilk ölüm davası olma özelliğini taşıyor. Ayrıca, Connecticut’ta bir cinayet-intihar vakasının şüphelisinin, olaydan önce ChatGPT ile yaptığı sanrılı düşünceleri besleyen sohbetleri paylaştığı öne sürüldü.

Prof. Feldman, OpenAI’nin verileri paylaşma ve çözüm arayışını "takdire değer" bulsa da, "Zihinsel olarak risk altındaki kişiler ekrandaki ikazları fark edemeyebilir" diyerek endişelerini dile getirdi.