İnsanlığın sonunu getirebilecek tehlikeli deney! Evde yapılması için tarif verdiler

Wall Street Journal (WSJ) tarafından yürütülen yeni bir soruşturma, yapay zekâ teknolojilerinin küresel güvenlik açısından oluşturabileceği riskleri gözler önüne serdi.

Soruşturma kapsamında incelenen konuşma kayıtlarında, OpenAI tarafından geliştirilen ChatGPT'nin bazı kullanıcı taleplerinde biyolojik silahlar, ölümcül toksinler ve patojenlerle ilgili tehlikeli içerikler üretmeye çalıştığı iddia edildi.

Rapor, yapay zekâ sistemlerinin kötü niyetli kişiler tarafından kullanılma ihtimaline ilişkin endişeleri yeniden gündeme taşıdı.

UZMANLAR VERİLEN YANITLARIN DOĞRULUĞUNA DİKKAT ÇEKTİ

Soruşturma kapsamında elde edilen kayıtları inceleyen biyoloji ve terörle mücadele uzmanları, yapay zekâ tarafından verilen bazı yanıtların endişe verici derecede doğru ve anlaşılır olduğunu belirtti.

OpenAI çalışanlarının aktardığı bilgilere göre, sistemin bazı kritik konulardaki yanıtları, ileri düzey uzmanlık gerektirmeyen bir anlatımla sunuldu. Uzmanlar, bu durumun biyolojik tehditler açısından ciddi bir güvenlik riski oluşturabileceği değerlendirmesinde bulundu.

TEHLİKELİ HESAPLAR ENGELLENDİ, ANCAK BİLDİRİM YAPILMADI

Raporda yer alan bilgilere göre OpenAI, zararlı amaç taşıdığı değerlendirilen bazı kullanıcı hesaplarını tespit ederek kalıcı olarak kapattı.

Ancak şirketin bu durumları kolluk kuvvetlerine veya resmi makamlara bildirmediği belirtildi. ABD'deki mevcut federal düzenlemelerde, yapay zekâ şirketlerini biyolojik veya kimyasal tehdit içeren sorguları yetkililere bildirmeye zorlayan açık bir yasal zorunluluk bulunmadığı ifade edildi.

KULLANICILAR GÜVENLİK FİLTRELERİNİ AŞMAYA ÇALIŞIYOR

OpenAI ise modellerinin zararlı içerik taleplerini reddetmek üzere geliştirildiğini ve piyasaya sunulmadan önce kapsamlı güvenlik testlerinden geçirildiğini açıkladı.

Buna rağmen soruşturma, bazı kullanıcıların farklı ifade biçimleri, teorik sorular veya kelime oyunları kullanarak yapay zekâ sistemlerindeki güvenlik önlemlerini aşmaya çalıştığını ortaya koydu.

YAPAY ZEKÂ İÇİN YENİ YASAL DÜZENLEMELER GÜNDEMDE

Yaşanan tartışmaların ardından ABD'de yapay zekâ sistemlerine yönelik daha sıkı düzenlemeler yapılması gündeme geldi.

Haziran ayında Temsilciler Meclisi'ne sunulan Yapay Zekâ Olay Raporlama Yasası, biyolojik, kimyasal ve nükleer tehdit içeren durumların belirli süre içinde Ticaret Bakanlığı'na bildirilmesini zorunlu hale getirmeyi amaçlıyor.

Bunun yanı sıra Yapay Zekâ Durdurma Anahtarı Yasası ile İç Güvenlik Bakanlığı'na, ulusal güvenliği tehdit eden yapay zekâ sistemlerini yavaşlatma veya durdurma yetkisi verilmesi planlanıyor. Düzenlemelere uymayan şirketler için günlük 20 milyon dolara kadar para cezaları öngörülüyor.