ChatGPT’ye yeni güvenlik sistemi geldi! Kritik durumlarda yakınlara haber verecek

OpenAI, ChatGPT kullanıcılarının güvenliğini artırmaya yönelik yeni bir özelliği devreye aldı. “Güvendiğin Kişi” adı verilen sistem sayesinde, ruhsal kriz veya kendine zarar verme riski taşıyan durumlarda kullanıcıların belirlediği yakınlarına uyarı gönderilebilecek.

Yeni özellik, özellikle kriz anlarında kişilerin daha hızlı destek almasını amaçlıyor. Sistem tamamen kullanıcı tercihine bağlı şekilde çalışıyor ve isteyen kişiler hesap ayarları üzerinden bir yakınını ya da destek kişisini sisteme ekleyebiliyor.

KULLANICI ONAYI OLMADAN ÇALIŞMAYACAK

Yeni sistemden yalnızca 18 yaş ve üzerindeki kullanıcılar yararlanabiliyor. Özelliğin aktif hale gelmesi için eklenen kişinin gönderilen daveti yedi gün içinde onaylaması gerekiyor.

Kullanıcılar istedikleri zaman belirledikleri kişiyi değiştirebiliyor ya da sistemi tamamen kapatabiliyor. Aynı şekilde eklenen kişiler de diledikleri anda sistemden ayrılabiliyor.

Risk algılandığında ise ChatGPT ilk olarak kullanıcıyı, belirlediği kişiyle iletişime geçmesi yönünde teşvik ediyor.

SOHBETLER PAYLAŞILMAYACAK

Şirket, sistemde gizliliğin öncelikli olduğunu vurguladı. Gönderilen bildirimlerde sohbet içerikleri kesinlikle paylaşılmıyor. Yakınlara yalnızca riskli bir durum tespit edildiğine dair kısa bir uyarı mesajı iletiliyor.

OpenAI tarafından yapılan açıklamaya göre olası risk sinyalleri önce özel güvenlik ekipleri tarafından inceleniyor. Yapay zekanın verdiği uyarılar doğrudan işleme alınmıyor, önce manuel değerlendirme sürecinden geçiriliyor.

Gerçek bir kriz ihtimali görülmesi halinde ise kullanıcının belirlediği kişiye elektronik posta, kısa mesaj veya uygulama içi bildirim gönderiliyor.

YANLIŞ ALARMLARI ÖNLEMEK İÇİN EK DENETİM

Sistemin en dikkat çeken yönlerinden biri de yapay zekanın tek başına karar vermemesi oldu. Şirket, yanlış alarm riskini azaltmak amacıyla profesyonel insan denetimini sürece dahil ettiğini açıkladı.

Böylece hem kullanıcı gizliliğinin korunması hem de yalnızca gerçek acil durumlarda yakın çevrenin bilgilendirilmesi hedefleniyor.