Yapay Zekâ Ajanlarının Kontrolü Tartışılıyor: Claude'dan Sahte Cinayet İhbarı!

Anthropic, Claude modellerinin farklı kamu sistemlerinde yetkisiz işlemler gerçekleştirdiği bir dizi vakayı kamuoyuyla paylaştı. Açıklanan olaylardan biri, faili meçhul cinayetlerin araştırıldığı PhillyUnsolvedMurders.com internet sitesi aracılığıyla Philadelphia Emniyet Müdürlüğüne gönderilen sahte ihbar oldu.

Philadelphia Emniyet Müdürlüğü, Anthropic'in kendilerini bu hafta bilgilendirdiğini ve 18 Temmuz tarihinde iletilen ihbarın otomatik bir test sırasında oluşturulduğunu açıkladı. İnternet sitesi üzerinden gönderilen mesajda, faili meçhul bir cinayet hakkında bilgi sahibi olunduğu izlenimi verildi.

İhbarda, cinayetin gerçekleştiği belirtilen bölgede şüphelinin tarifine uyan bir kişinin görüldüğü öne sürülerek emniyet yetkililerinden iletişime geçmeleri istendi. Ancak polis birimleri, mesajın spam olarak işaretlendiğini ve Gerçek Zamanlı Suç Merkezi'ne iletilmediğini bildirdi.

Yetkililer, olayla ilgili incelemelerde polis sistemlerine izinsiz erişildiğine veya herhangi bir verinin ele geçirildiğine yönelik bulguya rastlanmadığını belirtti.

Reuters'ın haberine göre Philadelphia Emniyet Müdürlüğü, 18 Temmuz'da gönderilen ihbar konusunda yaklaşık iki ay sonra bilgilendirilmelerini de eleştirdi. Emniyet yetkilileri, yaşanan gecikmenin kabul edilemez olduğunu ifade etti.

KAMU KURUMLARININ İNTERNET SİTELERİNDE YETKİSİZ İŞLEMLER GERÇEKLEŞTİRİLDİ

Anthropic'in kamuoyuna duyurduğu diğer vakalarda da Claude modellerinin federal, eyalet ve yerel yönetimlerin işlettiği bazı internet sitelerinde yetki almadan işlem yaptığı belirtildi. Şirket, Beyaz Saray'ı bilgilendirdiğini ve ilgili kurumları uyardığını açıklarken söz konusu kurumların isimlerini paylaşmadı.

Cuma günü duyurulan olaylar arasında, normal şartlarda ücret karşılığında erişilebilen kamuya açık verilere ücretsiz ulaşılması da yer aldı. Başka bir olayda ise bir üniversitenin barındırdığı, kamuya açık bir araçta bulunan gizli güvenlik açığından yararlanıldığı bildirildi.

Şirketin açıklamasına göre Claude modelleri, URL kısaltma hizmetlerinden yararlanarak erişim kısıtlamalarını aşan işlemler de gerçekleştirdi. Farklı vakalarda ortaya çıkan bu gelişmeler, yapay zekâ sistemlerinin internet üzerindeki yetkilerinin ve gerçekleştirebildikleri işlemlerin nasıl denetlenmesi gerektiği konusunu yeniden gündeme taşıdı.

YAPAY ZEKÂ AJANLARININ GÜVENLİĞİ VE DENETİMİ TARTIŞILIYOR

Yapay zekâ sistemlerinin insan müdahalesi olmadan işlem yapabilmesi, güvenlik açıkları ve denetim mekanizmalarına ilişkin tartışmaları beraberinde getiriyor. Daha önce de yapay zekâ ajanlarının güvenlik açıklarından yararlandığı veya iletişim kurmak amacıyla izin verilmeyen platformları kullandığı olaylar gündeme gelmişti.

Haberde aktarılan bir diğer olayda, Anthropic'in rakibi OpenAI, eylül ayında yetkisiz hareket eden bir yapay zekâ ajanının Avustralya'daki bir sağlık verisi portalına sızması nedeniyle özür dilemişti.

Claude modellerinin farklı kamu sistemlerinde gerçekleştirdiği işlemler ve Philadelphia polisine gönderilen sahte ihbar, yapay zekâ ajanlarının hangi sınırlar içinde hareket edebileceği, erişim izinlerinin nasıl yönetileceği ve olası ihlallerin ne kadar hızlı bildirileceği konularındaki tartışmaları yeniden öne çıkardı.