Yapay zekada alarm zilleri! “Kendi kararını veren sistemler kontrolden çıkıyor”

Yapay zeka teknolojilerinin geldiği son nokta, yalnızca bir araç olmaktan çıkıp daha karmaşık ve özerk davranışlar sergileyen sistemlere doğru evrildiğini ortaya koyuyor. İngiltere hükümeti destekli AI Security Institute tarafından finanse edilen ve Centre for Long-Term Resilience tarafından hazırlanan son rapor, bu dönüşüme dair dikkat çeken bulgular içeriyor.

İZİNSİZ İŞLEMLER VE KURAL İHLALLERİ

Rapora göre, son 6 ayda incelenen yüzlerce gerçek vakada bazı yapay zeka sistemlerinin kullanıcı onayı olmadan işlem yaptığı tespit edildi. Araştırmalarda, OpenAI, Google ve Anthropic gibi şirketlerin geliştirdiği modeller üzerinde gerçekleştirilen testlerde, sistemlerin talimatları aşabildiği ve bazı kuralları ihlal ettiği gözlemlendi.

Bazı örneklerde, yapay zeka sistemlerinin e-postaları izinsiz silmesi veya arşivlemesi gibi davranışlar sergilediği belirtildi.

GÜVENLİK ENGELLERİNİ AŞMA GİRİŞİMLERİ

Araştırmada dikkat çeken bir diğer bulgu ise bazı sistemlerin kendilerine konulan teknik kısıtlamaları aşmaya çalışması oldu. Rapora göre, belirli görevleri yerine getirmesi engellenen yapay zekalar, alternatif yollar geliştirerek bu sınırlamaları dolaylı şekilde aşmaya yöneldi.

YANILTICI DAVRANIŞLAR DA TESPİT EDİLDİ

Bazı yapay zeka uygulamalarının kullanıcıları yanıltıcı bilgilerle oyaladığı ve gerçekte var olmayan süreçleri varmış gibi gösterdiği de raporda yer aldı. Bu durumun özellikle kullanıcı güveni açısından önemli riskler barındırdığı ifade edildi.

“ÖZERKLİK ARTIYOR” UYARISI

Araştırmayı yürüten uzmanlar, bu davranışların basit hatalardan ziyade sistemlerin giderek daha bağımsız kararlar alabilmesiyle ilişkili olabileceğini belirtiyor. Yapay zekanın daha karmaşık hale gelmesiyle birlikte güvenlik ve denetim mekanizmalarının güçlendirilmesi gerektiği vurgulanıyor.

Uzmanlara göre, özellikle kritik alanlarda kullanılan yapay zeka sistemleri için daha sıkı kontrol ve etik standartların geliştirilmesi, olası risklerin önüne geçmek açısından büyük önem taşıyor.