Uzmanlardan uyarı: Yapay zeka ile biyolojik silah tehdidi gerçek olabilir

Bilim insanları, yapay zekâ (YZ) kullanarak doğada daha önce hiç var olmayan, tamamen yeni virüsler tasarlamayı başardı. Bu gelişme, YZ'nin yeni yaşam formları tasarlama potansiyelini gözler önüne sererken, teknolojinin kötüye kullanılarak biyolojik silah üretilmesi riskine dair etik ve güvenlik kaygılarını da beraberinde getirdi.

Geliştirilen bu virüslerin, genetik olarak mevcut türlerden önemli ölçüde farklı olduğu ve "yeni bir tür" sayılabileceği belirtiliyor. Söz konusu virüsler, insanları değil, bakterileri hedef alan ve "bakteriyofaj" olarak adlandırılan türler.

GÜVENLIK FILTRELERI VE ÇIFTE KULLANIM SORUNU

Araştırmayı yürüten ekip, modellerinin insanlar, hayvanlar veya bitkiler için bulaşıcı virüsler tasarlamasını engellemek amacıyla özel güvenlik önlemleri aldıklarını açıkladı. Ancak bu hafta yayımlanan başka bir çalışma, YZ'nin biyolojik silah geliştirmeyi önlemeye yönelik mevcut güvenlik tedbirlerini kolaylıkla aşabileceğini ortaya koydu.

Microsoft araştırmacıları, YZ'nin, toksik moleküllerin talep edilmesini engelleyen ve genetik dizilimleri tarayan güvenlik filtrelerini nasıl atlatabildiğini gösterdi. YZ, aynı işlevi görebilen, ancak genetik olarak tamamen farklı dizilimler tasarlayarak bu denetimlerden sıyrılabiliyor. Araştırmacılar bu güvenlik açığını kapatmak için yamalar geliştirse de, iki çalışma birlikte değerlendirildiğinde, YZ’nin gelecekte yeni bir pandemiyi tetikleyebilecek veya insanlar için tehdit oluşturabilecek biyolojik silahlar tasarlama ihtimali doğuyor.

Bu alandaki temel etik ikilem, faydalı bir teknolojinin kasıtlı olarak zarar vermek için de kullanılabileceği anlamına gelen "çifte kullanım sorunu" olarak adlandırılıyor. Örneğin, hastalıklara çare bulmak için tasarlanan bir YZ modeli, kötü niyetli kişiler tarafından ölümcül patojenler yaratmak için kullanılabilir.

İMRALI'DA YÜRÜTÜLEN ÇALIŞMALAR VE GÜVENLIK ODAKLI YAKLAŞIM

Stanford Üniversitesi’nden Sam King ve danışmanı Brian Hie, enfekte hastalardaki bakterileri yok edebilecek yeni bakteriyofajlar geliştirmeyi hedefleyen ön çalışmalarını paylaştı. Ekip, riski en aza indirmek için YZ modellerini sadece bakterileri enfekte eden virüs verileriyle eğitti; bitki, hayvan veya insan hücrelerini etkileyen hiçbir virüs verisi modele dahil edilmedi.

King, mevcut teknolojinin şu an için tehlikeli uygulamaları kolaylaştırmadığına inandığını belirtirken, bu yöntemin geleneksel yöntemlere kıyasla daha zahmetli ve yüksek uzmanlık gerektirdiğini ifade etti.

YENI DENETIM MEKANIZMALARI VE ULUSLARARASI STANDARTLAR

Hızla ilerleyen bu alanda güvenlik tedbirlerinin standartlaştırılması gerekiyor. Microsoft’tan Eric Horvitz ve Bruce Wittman, YZ’nin mevcut yazılımları farklı dizilimlerle aynı toksik etkiyi yaratabilecek yeni kombinasyonlar tasarlayarak aldatabildiğini keşfettikten sonra, bu zafiyeti ilgili kurumlara bildirerek uluslararası bir ortaklık başlattı.

Şu ana kadar YZ alanında bağlayıcı bir uluslararası düzenleme bulunmuyor. Ancak ABD'de geçen yıl çıkarılan kararname ile güvenlik değerlendirmeleri standartlaştırılmaya çalışılıyor. Birleşik Krallık’ta da devlet destekli Yapay Zeka Güvenliği Enstitüsü riskleri azaltmaya yönelik standartlar geliştiriyor. Ayrıca Microsoft ekibi, YZ'nin yasa dışı biyolojik faaliyetlerde kullanılıp kullanılmadığını tespit etmeye yönelik kanalizasyon ve hava kalitesi verilerini analiz eden seyretme sistemleri üzerinde çalışıyor.