Bilim İnsanından Yapay Zeka Uyarısı: İnsanlığın Yok Olma İhtimali Yüzde 10'u Aştı!

Yapay zeka sektörünün önemli şirketlerinden ABD merkezli Anthropic'te insanlığın geleceğine ilişkin dikkat çekici bir uyarı gündeme geldi. Şirketin Hizalama Bilimi Lideri Evan Hubinger, kurumdan ayrılan kıdemli araştırmacı Jacob Coxon'ın açıklamasına verdiği yanıtta, yapay zekanın önümüzdeki 10 yıl içinde insan ırkını tamamen yok etme ihtimalini yüzde 10'un üzerinde değerlendirdiğini bildirdi.

Aynı dönemde yayımlanan kapsamlı şirket raporunda ise süperzekanın yaratabileceği ekonomik büyümenin iş gücü piyasasında ciddi değişimlere neden olabileceği belirtildi. Böylece yapay zekanın insanlık için oluşturabileceği varoluşsal risklerin yanı sıra istihdam ve gelir dağılımına ilişkin olası sonuçlar da tartışmaya açıldı.

"SÜPERZEKA, İNSAN HAYATIYLA KUMAR OYNUYOR" SÖZLERİYLE GELEN İSTİFA

Anthropic bünyesinde yeni nesil yapay zeka modellerinin eğitilmesi konusunda uzmanlaşan araştırmacı Jacob Coxon, görevinden ayrıldığını duyurarak teknoloji dünyasında tartışma başlattı.

Coxon, kendi kendini geliştirebilen otonom sistemler üretmek amacıyla sektör genelinde sürdürülen kontrolsüz rekabetin bir parçası olmak istemediğini belirtti. Araştırmacı, bu teknolojilerin insan denetiminden çıkabileceği yönündeki riskleri ayrılma gerekçeleri arasında gösterdi.

Yapay zeka şirketlerinin açıkça 'insan hayatıyla kumar oynadığını' savunan Coxon, sektörde çalışan mühendislerin tehlikenin boyutunun farkında olduğunu dile getirdi. Kıdemli araştırmacı, "Yapay zeka geliştiren insanlar, 10 yılın sonuna kadar hepimizi öldürebileceğine samimi bir şekilde inanıyor" değerlendirmesinde bulundu.

X PLATFORMUNDA 141 MİLYON KİŞİYE ULAŞAN AÇIKLAMA

Jacob Coxon'ın istifa açıklamasını alıntılayan Anthropic Hizalama Bilimi Lideri Evan Hubinger, meslektaşının kaygılarına katıldığını belirtti.

Hubinger, yapay zekanın insanlığın tamamını yok etme ihtimaline ilişkin değerlendirmesini şu sözlerle paylaştı:

"Jacob bu konuda haklı, yapay zekanın tüm insanları öldürebileceğine gerçekten ve samimiyetle inanıyoruz!

Ben şahsen bunun önümüzdeki 10 yıl içinde gerçekleşme ihtimalinin yüzde 10'dan fazla olduğunu düşünüyorum.

Anthropic'in bunun için elinden geleni yaptığına inanıyorum ancak süperzeka için uyumlandırma sorununu çözmeye yönelik henüz bir planımız yok ve bu konuda net bir şekilde doğru yolda olduğumuzu da söyleyemeyiz."

İKİ FARKLI SENARYO: VERİMLİLİK ARTIŞI MI, İŞSİZLİK Mİ?

İstifa tartışmasının ardından Anthropic, "Yapay zeka Amerika Birleşik Devletleri ekonomisini gelecek yıllarda canlandıracak mı?" sorusunu ele alan bir rapor yayımladı.

Şirket, yapay zekanın ekonomik açıdan ne ölçüde üretken veya yıkıcı sonuçlar doğurabileceğini incelemek amacıyla etkileşimli bir simülasyon aracı geliştirdi. Araçta değerlendirilen senaryolardan birinde teknoloji ekonomiye sınırlı katkı sağlıyor ve çalışanlar üzerinde çok az etki yaratarak büyüme oranlarını yükseltiyor.

Diğer senaryoda ise gayri safi yurt içi hasıla (GSYH) artarken işsizlik oranı yükseliyor. Bu tabloda iş gücünün yaklaşık yüzde 14'ünün yapay zeka nedeniyle işini kaybettiği, işinden olan kişilerin ise yarısından azının yeniden istihdam edilebildiği öngörülüyor.

EKONOMİK DÖNÜŞÜM TARİHTEKİ GELİŞMELERİ GERİDE BIRAKABİLİR

Raporda ortaya konulan olası gelecek tablolarının; teknolojinin esnekliğine, ne kadar hızlı benimseneceğine, çalışanları destekleme kapasitesine ve işini kaybeden kişilerin yeni iş alanlarına erişip erişemeyeceğine bağlı olduğu ifade ediliyor.

Mütevazı değişim senaryosunda yapay zekanın etkisinin sınırlı kaldığı ve ekonominin olağan seyrini sürdürdüğü belirtiliyor. Daha uç senaryoda ise teknolojinin ekonomik yapıyı köklü biçimde değiştirebileceği değerlendiriliyor.

Raporda en uç senaryoya ilişkin şu ifadeler yer alıyor:

"En uç senaryoda, yapay zeka ekonomiyi dönüştürüyor.

Makroekonomik sonuçlar, hem büyüklük hem de değişimin gerçekleşme hızı açısından tarihteki herhangi bir olayın çok ötesine geçiyor."

Anthropic, hangi senaryonun gerçekleşeceğine ilişkin kesin bir tahminde bulunmuyor. Teknoloji uzmanlarının hızlı yayılma beklentisine karşılık ekonomistlerin daha temkinli bir yaklaşım benimsediği aktarılıyor.

KURUCU ORTAK CLARK: YAYILMA BEKLENENDEN DAHA ZOR OLABİLİR

Anthropic'in kurucu ortaklarından Jack Clark da konuyla ilgili değerlendirmesinde teknolojik ilerleme ile bu gelişmelerin ekonomiye yayılma hızı arasındaki farka dikkat çekti. Clark, Amerikan Ulusal Kamu Radyosu'na (NPR) yaptığı açıklamada uygulamadaki zorluklara işaret etti.

Clark, teknolojinin gelişim hızı ve ekonomiye etkisi konusunda şu ifadeleri kullandı:

"Teknolojinin çok çok hızlı ve sürdürülebilir bir hızla gelişmeye devam edeceğini düşünüyorum ancak teknolojinin yayılması muhtemelen insanların düşündüğünden daha zor olacak.

Yani gerçekten çok iyi olacak.

Ancak ekonomiye daha yavaş girecek."

Kurucu ortağın bu değerlendirmesi, yapay zekanın teknik yetenekleri hızla gelişse bile toplumun ve kurumların yeni teknolojiye uyum sağlamasının daha uzun sürebileceğine işaret ediyor.

11 BİN KİŞİLİK ANKETTE MAAŞLAR VE İSTİHDAM ÖNE ÇIKTI

Anthropic'in yaklaşık 11 bin kişinin katılımıyla gerçekleştirdiği anket, toplumun yapay zekanın geleceğine ilişkin farklı beklentilerini ortaya koydu. Katılımcıların büyük bölümü teknolojinin genel verimliliği önemli ölçüde artıracağını düşünürken, risk altındaki mesleklerde ciddi değişimler yaşanabileceğini de öngörüyor.

Şirketin analizlerine göre ekonomik büyümenin olağan seyrin iki katına çıktığı senaryolarda işsizlik tarihsel aralıklar içinde kalabiliyor. Ücretlerin ise sektöre bağlı olarak sabit kalması veya artması mümkün görülüyor.

Buna karşılık dünya ekonomi tarihindeki rekorları geride bırakacak ölçüde olağanüstü bir büyüme yaşanması durumunda çalışanların gelirleri ve istihdam olanaklarının ağır darbe alabileceği hesaplanıyor.