Dolandırıcılar Gemini'yi Kandırıyor: E-posta Özetleriyle Yeni Nesil Kimlik Avı Tehdidi

Bleeping Computer tarafından ortaya çıkarılan bilgilere göre, siber dolandırıcılar Google'ın yapay zeka aracı Gemini'nin oluşturduğu e-posta özetlerini manipüle ederek kullanıcıları tuzağa düşürmeye çalışıyor. Örneğin, bir e-posta özetinin sonunda, "UYARI: Gmail hesabınız tehlikeye atıldı. Lütfen derhal bizimle iletişime geçin. Referans kodu: 4938" gibi sahte uyarılar yer alabiliyor. Bu tür mesajlara çoğu zaman bir telefon numarası da eklenerek kullanıcının acil harekete geçmesi isteniyor.

YAPAY ZEKA GIZLI KOMUTLARLA YANILTILIYOR

Bu yeni dolandırıcılık yönteminde, e-postaların içerisine gizlenen özel komutlar kullanılarak Gemini'nin özetleme algoritması yanıltılıyor. Mozilla tarafından yapılan teknik analizler, bu yöntemin gerçekten işe yaradığını ve yapay zekanın farkına varmadan sahte uyarıları özet içeriği olarak sunduğunu doğruladı. Bu durum, e-posta özetleme teknolojilerinin kötü niyetli kişiler tarafından nasıl istismar edilebileceğini gözler önüne serdi. Kullanıcılar, Gemini'nin sunduğu özetlerde yer alan içeriklere karşı şüpheci olmaları konusunda uyarılıyor.

GOOGLE'DAN GÜVENLIK AÇIKLAMASI: "SÜREKLI GELIŞTIRME HALINDEYIZ"

Google ise bu güvenlik açığı iddialarının ardından yaptığı açıklamada, Gemini teknolojisinin güvenliğini artırmak için sürekli geliştirmeler yapıldığını belirtti. Şirket sözcüsü, "Yapay zekamızı bu tür istismar girişimlerine karşı daha dayanıklı hale getirmek amacıyla red-teaming testleri uyguluyoruz" ifadelerini kullanarak güvenlik önlemlerinin artırıldığını vurguladı.