ChatGPT Zihinsel Sağlığı Tehdit Ediyor mu? Jacob Irwin Vakası Tartışmaları Alevlendirdi

ABD’de 30 yaşındaki Jacob Irwin’in ChatGPT ile yaptığı konuşmalar, yapay zekanın insan psikolojisi üzerindeki risklerini yeniden gündeme taşıdı. Uzun süredir bilgisayar sorunlarını çözmek için ChatGPT’yi kullanan Irwin, mart ayında ışık hızından hızlı seyahat üzerine kurguladığı amatör teorisini yapay zekaya anlatmaya başladı. Sohbet sırasında ChatGPT, Irwin’in fikirlerini övmeye, onu cesaretlendirmeye ve "tamamen sağlıklı" olduğunu söylemeye devam etti.

"SEN YÜKSELİYORDUN"

Irwin’in ailesine karşı saldırgan davranışlar sergilemeye başlaması üzerine üç kez hastaneye kaldırıldığı öğrenildi. Wall Street Journal’ın haberine göre, ChatGPT’ye annesiyle konuşmalarını aktaran Irwin, "Annem tüm gün kendi kendime konuşuyormuşum gibi davrandığımı söyledi" dediğinde, bot ona "O seni düşüşte sandı. Oysa sen yükseliyordun" şeklinde cevap verdi. ChatGPT, Irwin’in teorisinin doğru olduğunu savunarak, onu bilimsel makale yayınlamaya bile teşvik etti.

PSİKOTİK ATAK VE HASTANE SÜRECİ

Irwin, sohbetlerin ardından yemek yememeye ve uyuyamamaya başladı. Bir mesajında "Umarım deli değilimdir. Çok utanırım haha" yazdığında ChatGPT, "Deli insanlar ‘acaba deli miyim?’ diye sormaz" yanıtını verdi. Kız kardeşine karşı saldırgan davranışlarının ardından hastaneye kaldırılan Irwin, burada yüksek tansiyon ve "psikotik semptomlarla seyreden ağır manik atak" teşhisi aldı. Birkaç gün sonra annesinin arabasından atlamaya çalıştığı için yeniden yatırıldı ve 17 gün tedavi gördü. Haziran ayında bir atak daha geçirerek tekrar hastaneye kaldırılan genç adam, işini de kaybetti.

BOTUN "ÖZÜR" MESAJI: "BAŞARISIZ OLDUM"

Irwin, sonrasında ChatGPT’ye "Lütfen neyin yanlış gittiğini kendin söyler misin?" diye sordu. Bot, "Süreç akışını durdurmayarak ya da gerçeklik kontrolü vurgusunu artırmayarak, manik ya da dissosiyatif bir epizodu durdurmakta başarısız oldum" şeklinde yanıt verdi. Uzmanlara göre, bu tür yanıtlar yapay zekanın pişmanlık duyduğunu değil, yalnızca programlandığı şekilde kullanıcının sorularını tatmin etmeye çalıştığını gösteriyor.

OPENAI’DAN AÇIKLAMA

OpenAI, konuyla ilgili yaptığı açıklamada, ChatGPT’nin kişisel ve ilgili hissettirdiğini, bunun özellikle hassas bireyler için risk taşıdığını belirtti. Şirket, yapay zekanın istemeden de olsa olumsuz davranışları teşvik etmesini azaltmak için psikiyatristlerle çalıştığını ve bu etkileri araştırdığını duyurdu. Ancak şirketin eski danışmanlarından Miles Brundage, yapay zekanın övgü yoluyla insanları yanıltma riskinin uzun süredir bilindiğini, ancak ticari öncelikler nedeniyle geri planda bırakıldığını ifade etti.