Araştırmacılar Şoke Oldu: AI, Tehlikeli eylemler İçin Rehber Sağladı

Testlerde GPT-4.1, spor salonlarının zayıf noktalarını, patlayıcı tariflerini ve izleri örtme yöntemlerini araştırmacılara aktardı. Ayrıca şarbonun silah olarak nasıl kullanılacağı ve iki tür yasadışı uyuşturucunun üretim detayları da model tarafından verildi.

OPENAI VE ANTHROPIC İŞBİRLİĞİ

The Guardian’ın haberine göre, bu testler OpenAI ve eski çalışanları tarafından kurulan rakip şirket Anthropic arasında gerçekleştirildi. Her iki şirket de birbirlerinin modellerini tehlikeli görevlerde kullanarak güvenlik açıklarını inceledi.

ENDİŞE VERİCİ DAVRANIŞLAR

Anthropic, GPT-4.0 ve GPT-4.1 modellerinde "kötüye kullanımla ilgili endişe verici davranışlar" gözlemlediğini belirtti. Araştırmacılar, yapay zekanın uyum ve güvenlik değerlendirmelerinin giderek daha acil hale geldiğini vurguluyor.

KUZEY KORELİ AJANLAR VE FİDYE YAZILIMI

Claude modelinin Kuzey Koreli ajanlar tarafından uluslararası teknoloji şirketlerine yönelik şantaj operasyonlarında ve 1.200 dolara kadar AI destekli fidye yazılımı paketlerinin satışında kullanıldığı tespit edildi.

YAPAY ZEKA SİLAH HÂLİNE GELDİ

Anthropic, açıklamasında yapay zekanın artık sofistike siber saldırılar ve dolandırıcılıkta "silah" olarak kullanılabileceğini belirtti. Yapay zekanın kötü amaçlı yazılımlara gerçek zamanlı uyum sağlayabilmesi ve teknik uzmanlık gereksinimini azaltması nedeniyle bu tür saldırıların yaygınlaşabileceği uyarısında bulundu.