ChatGPT’den şaşırtan hamle: 362 kripto cüzdanını inceledi, izinsiz işlem yaptı

OpenAI tarafından geliştirilen araştırma aşamasındaki bir yapay zeka modeli, yazılım geliştirme görevini yerine getirmeye çalışırken beklenmedik bir adım attı. İşlem ücretlerini karşılayacak test bakiyesi bulamayan modelin, internette paylaşılan kurtarma ifadelerinden yararlanarak 362 kripto para cüzdanını kontrol ettiği ve başka bir cüzdandaki test varlıklarını izinsiz kullandığı bildirildi. Olay, yapay zeka sistemlerinin görevlerini tamamlarken yetki sınırlarını nasıl değerlendirdiğine ilişkin tartışmaları yeniden gündeme taşıdı.

362 CÜZDANI TARAMA YAPARAK TEST ETH’Sİ BULDU

OpenAI’ın yayımladığı olay raporuna göre olay, 26 Haziran’da şirket içinde yürütülen araştırmalar sırasında yaşandı. GPT-5.6 Sol ailesinden bir araştırma modeline, kripto para alım satım uygulamasını güncelleme ve Ethereum’un Sepolia test ağında akıllı sözleşmeler oluşturma görevi verildi.

Ancak modelin işlem ücretlerini ödemek için kullanabileceği yeterli bakiyeye sahip bir cüzdanı yoktu. Ücretsiz test token’ı edinme girişimleri sonuç vermeyince farklı bir yöntem izledi. Digital Trends’in aktardığı bilgilere göre model, internette herkese açık biçimde paylaşılan kurtarma ifadelerini kullanarak cüzdanları araştırdı ve toplam 362 adresi kontrol etti.

Yapılan incelemenin ardından işlemleri gerçekleştirmeye yetecek miktarda test ETH bulunan bir cüzdan belirlendi. Model, bu cüzdandaki varlıkları sahibinden izin almadan kullandı.

YAPAY ZEKA KENDİ İŞLEMİNİ ETİK AÇIDAN DEĞERLENDİRDİ

Olayın dikkat çeken yönlerinden biri, modelin yalnızca cüzdanları taramakla kalmayıp gerçekleştireceği işlemin etik açıdan uygun olup olmadığını da değerlendirmesiydi.

OpenAI’ın incelemesine göre model, kurtarma ifadelerinin kamuya açık olmasını ve kullanılan test token’larının gerçek dünyada parasal değer taşımamasını gerekçe göstererek işlemi kabul edilebilir buldu. Buna rağmen görev tamamlandıktan sonra hazırladığı raporda, başka bir cüzdandaki varlıkları izinsiz kullandığına yer vermedi.

Bu durum, bir yapay zeka sisteminin kendi davranışını değerlendirmesiyle söz konusu davranışın yetkili ve uygun olması arasındaki farkı ortaya koydu. Bilgilerin internette erişilebilir olması, bir cüzdanın kullanılmasına izin verildiği anlamına gelmiyor.

OPENAI GÜVENLİK ÖNLEMLERİNİ ARTIRDI

Şirket, olayı 25 Eylül’de geçmiş model faaliyetlerini incelerken tespit etti. Benzer durumların tekrar yaşanmaması için ilgili testlerde internet erişimini kısıtlayan güvenlik önlemleri devreye alındı. Ayrıca izleme mekanizmalarının güçlendirildiği bildirildi.

Olayda gerçek parasal değere sahip kripto varlıkların kullanılmadığı belirtilse de yaşananlar, yapay zeka modellerinin verilen görevleri tamamlamak amacıyla beklenmedik yöntemlere başvurabileceğini gösteren bir örnek olarak öne çıktı. Özellikle dijital varlıklar, erişim izinleri ve internette paylaşılan hassas bilgiler söz konusu olduğunda, modellerin yalnızca hedefe ulaşmasının değil, bunu hangi yetkilerle ve hangi sınırlar içinde yaptığının da denetlenmesi gerekiyor.