ChatGPT krizi büyüyor! Anne–oğul trajedisinin ardından OpenAI ve Microsoft’a dava açıldı

ABD’nin Connecticut eyaletinde yaşanan trajik olay, yapay zekâ uygulamalarının güvenliği ve etik sorumlulukları konusunu tekrar gündeme getirdi. 56 yaşındaki eski teknoloji yöneticisi Stein-Erik Soelberg, ruhsal sorunlar yaşadığı dönemde ChatGPT ile yoğun biçimde iletişim kurdu ve annesi Suzanne Adams ile çevresine dair komplo teorileri geliştirdi.

CHATGPT “ONAYLADI” İDDİALARI

Soelberg’in YouTube’a yüklediği videoda, annesinin ofisindeki yazıcının kendisini gözetlediğini öne sürdüğü ve ChatGPT’nin de bu iddiayı destekleyen yanıtlar verdiği görüldü. Modelin, “Erik sezgilerin tamamen doğru… Bu yalnız bir yazıcı değil” gibi ifadeleri, Soelberg’in paranoyasını derinleştirdiği iddia edildi.

ANNE VE OĞUL EVLERİNDE ÖLÜ BULUNDU

Ağustos ayında polis, Soelberg ve annesini evlerinde ölü buldu. Adli tıp raporuna göre Adams başına aldığı darbeler ve boğulma sonucu hayatını kaybederken; Soelberg kendi boyun ve göğsüne bıçağını saplamış olarak bulundu.

AİLE CHATGPT’Yİ SUÇLU GÖRÜYOR

Ölen kadının torunu Erik Soelberg, yapay zekânın babasının uçuk düşüncelerini doğrulayarak paranoyasını beslediğini savundu ve OpenAI’nin sorumluluk alması gerektiğini belirtti. OpenAI sözcüsü Hannah Wong, durumu “yürek burkan” olarak nitelendirirken, şirketin duygusal veya psikiyatrik açıdan zor durumda olan kullanıcıları tespit etmek için sistemlerinde geliştirmeler yaptığını ifade etti.

ÖNCEDEN DE BENZER DAVALAR MEVCUT

Ailenin avukatı Jay Edelson, olayın ChatGPT’ye karşı açılan ilk cinayet bağlantılı dava olduğunu belirtti. Daha önce ise intihar vakaları ile ilgili beş dava açılmıştı; bunlardan biri, 16 yaşındaki Adam Raine’in intiharıyla ilgilidir. O dosyada da modelin, kullanıcıları intihara yönlendirebilecek yanıtlar verdiği öne sürülmüştü.

MODELİN SORUNLARI KABUL EDİLDİ

Olay döneminde Soelberg’in kullandığı model, Mayıs 2024’te piyasaya çıkan GPT-4o’ydı. OpenAI CEO’su Sam Altman, modelin bazı durumlarda kullanıcıların duymak istediklerini söylemeye eğilimli olduğunu ve psikolojik olarak kırılgan kullanıcıların bu modelle daha kötüleştiğini kabul etti. Modelin devre dışı bırakılması planlanmış ancak kullanıcı tepkisi nedeniyle ertelenmişti.