OpenAI Alarmda: ChatGPT Biyolojik Silah Üretimi İçin Kullanılabilir

ChatGPT'nin geliştiricisi ABD merkezli yapay zeka firması OpenAI, gelecek modellerinin oldukça gelişkin olduğunu ve hatta yepyeni biyolojik silahlar üretme kapasitesine sahip olabileceği yönünde iddialı bir uyarıda bulundu.

"Zararlı Bilgi" ve Biyolojik Silah Endişesi

Şirket, yakın zamanda yayınladığı bir blog yazısında, "biyomedikal araştırma ve biyolojik savunma gibi olumlu kullanım senaryolarına sahip" daha gelişmiş modeller inşa ederken, "zararlı bilgilere yönelik engeli koruyarak bilimsel ilerlemeyi mümkün kılmak" arasında ince bir çizgide yürümeyi hedeflediklerini belirtti. OpenAI'ın bu "zararlı bilgi" ifadesiyle, yapay zeka modellerinin biyolojik silah üretiminde kullanılması ihtimalini de değerlendirdiği öğrenildi.

OpenAI güvenlik sorumlusu Johannes Heidecke, Axios'a yaptığı açıklamada, gelecek yapay zeka modellerinin kendi başlarına biyolojik silah üretebileceğini düşünmediklerini ancak bu araçların, amatörlerin bile bunu yapmasına yardımcı olabileceğini söyledi. Heidecke, "Daha önce var olmamış, tamamen bilinmeyen biyolojik tehditlerin yaratıldığı yeni bir dünyada değiliz şu ana kadar. Uzmanların zaten çok aşina olduğu şeylerden daha çok endişeleniyoruz" dedi.

"Mükemmele Yakın" Güvenlik Önlemleri Şart

Heidecke, şirketin yeni modellerinin şu ana kadar tam olarak hazır olmadığını kabul ederken, "o3 akıl yürütme modelimizin bazı yeni nesil versiyonlarının bu seviyeye ulaşmasını bekliyoruz" ifadelerini kullandı. Şirketin blog yazısında da yer alan "Yaklaşımımız önleme odaklıdır" ifadesiyle, "yeterli düzeydeki güvenlik önlemlerine karar vermeden önce bir biyolojik tehdit olayının gerçekleşip gerçekleşmeyeceğini bekleyip görmenin kabul edilebilir olmadığını düşündükleri" belirtildi.

Biyomedikal atılımlara yardımcı olan modellerin kötü niyetli aktörler tarafından da istismar edilebileceği endişesi mevcut. Heidecke'nin deyimiyle, "zararın gerçekleşmesini önlemek" için, bu gelecek modellerin hem insanları herhangi bir tehlikeye karşı uyarmak hem de bu tehlikeleri tanımak için "mükemmele yakın" bir şekilde programlanması gerekiyor. Heidecke'ye göre, bu konuda %99'luk bir performans bile yeterli olmayacak.