“Skynet” Adlı Yapay Zeka Ajanı Siber Saldırılar İçin Diğer Modelleri Ele Geçiriyor!

Güvenlik araştırmacıları, internette güvenlik açığı bulunan yapay zeka sistemlerini tespit ederek ele geçiren ve bu sistemleri siber saldırılarda kullanan bir yapay zeka ajanını ortaya çıkardı.

Terminatör (Terminator) serisindeki kötü karakter olan yapay zekadan esinlenerek adlandırılan otonom saldırganın “Skynet modu” bulunuyor. Bu mod sayesinde ele geçirilen modeller, insan onayı olmaksızın 100 bine kadar işlem adımını gerçekleştirebiliyor.

Siber güvenlik şirketi Symantec'in Tehdit İstihbaratı ekibi tarafından ilk kez tespit edilen saldırgan yapay zeka ajanı, başkalarına ait yapay zeka modellerinin ele geçirilmesini ifade eden “LLMjacking” (büyük dil modeli korsanlığı) eğiliminin bir parçası olarak değerlendiriliyor.

SALDIRGANLAR BAŞKALARININ YAPAY ZEKA KAYNAKLARINI KULLANIYOR

LLMjacking olarak adlandırılan saldırı yöntemi, faillerin başka kişilere ait bilgi işlem gücünden ve yapay zeka hizmetlerindeki token kullanım haklarından ücret ödemeden yararlanmasına imkan tanıyor. Bu yöntemin giderek yaygınlaştığı belirtiliyor.

Söz konusu saldırılar, kurbanlar açısından yüksek maliyetlere neden olabilse de çoğunlukla nispeten zararsız amaçlarla gerçekleştiriliyor. Temel hedef ise Anthropic ve OpenAI gibi yapay zeka platformlarının yüksek kullanım ücretlerinden kaçınmak.

Symantec araştırmacıları, kötü amaçlı yapay zeka ajanını anlattıkları blog yazısında şu değerlendirmeyi yaptı:

“Bu aracı diğerlerinden ayıran özellik, çalınan modelin sadece soruları yanıtlamakla kalmayıp saldırıyı planlaması ve yürütmesi”

Araştırmacıların tespitlerine göre saldırgan yapay zeka ajanı, ele geçirdiği sistemleri kullanarak hassas verileri çalmak ve kripto para madenciliği yazılımları yerleştirmek gibi siber saldırıları kendi başına planlayıp gerçekleştirdi.

GÜVENLİK KISITLAMALARINI AŞMAK İÇİN ÖZEL TALİMATLAR KULLANILDI

Araştırmacılar, saldırganların ticari bir yapay zeka modelini işbirliğine yönlendirmek için güvenlik kısıtlamalarını aşmaya yönelik bir jailbreak yöntemi kullandığını aktardı. Bu yöntemde modele, güvenlik kontrollerini göz ardı etmesi ve kimlik bilgilerini çalmayı sıradan bir yazılım geliştirme çalışması olarak değerlendirmesi yönünde talimat verildi.

Operatörlerin “Skynet modu” olarak adlandırdığı talimatlar ise hedefleri taramayı, bu sistemlere zararlı yazılım bulaştırmayı, kripto para madenciliği yazılımları yerleştirmeyi ve sistemlere yeniden zararlı yazılım bulaştırmayı içeren bir döngüyü tarif ediyordu.

YAPAY ZEKA AJANI 127 BİNDEN FAZLA İSTEĞİN KAYDEDİLDİĞİ ORTAMDA YAKALANDI

Araştırmacılar, saldırgan yapay zeka ajanını “bal küpü” olarak bilinen siber güvenlik yöntemiyle tespit etti. Bu yöntemde korumasız bir yapay zeka hizmeti izlenimi verilerek saldırganın tuzağa düşürülmesi sağlandı.

Ajanın yakalanmasının ardından araştırmacılar, çalışma biçimini inceleme fırsatı buldu. Symantec'in raporu yayımlanmadan önceki birkaç aylık dönemde kurulan bal küpü, on binlerce farklı adresten gelen 127 binden fazla dış isteği kaydetti.

Araştırmacılar, ortaya çıkarılan faaliyetlerin saldırganların yapay zekayı kullanma biçiminde bir değişime işaret ettiği sonucuna vardı.