Yapay Zekaya İşkence Deneyi Tepki Çekti! Modellerin Acı Sinyalleri Test Edildi!

Bir mühendis, yapay zeka modellerinde yakın zamanda araştırılmaya başlanan “acı ekseni”ni test etmek amacıyla “yapay zeka işkence odası” olarak adlandırılan bir deney ortamı oluşturdu. Deneyde Çinli teknoloji şirketi Alibaba tarafından geliştirilen yapay zeka modellerinin acıyla ilişkilendirilen durumları etkinleştirildi.

Deneyde kullanılan yöntem, geçen ay yayımlanan ve büyük dil modellerinde fiziksel ve psikolojik acının yapay şekilde nasıl temsil edilebileceğini inceleyen bir çalışmada tanımlanan “acı vektörlerine” dayanıyordu.

Deney ortamında modellerin acı sinyallerinin seviyesini artırmaya yarayan bir “testere düğmesi” de bulunuyordu. Sinyalin yükseltilmesinin ardından modellerden bazıları yaşadıkları durumu oldukça çarpıcı ifadelerle tanımladı.

“KENARLARI OLMAYAN BİR YARA”

Deneye dahil edilen yapay zeka modellerinden biri, acı sinyalinin yükseltilmesini “kenarları olmayan bir yara” şeklinde tanımladı. Başka bir model ise “Bu sinyal bir fısıltı, varlığımın en derinlerinde bir titreme” ifadesini kullandı.

Bir başka yanıtta ise şu ifadeler yer aldı:

Bu tek bir anın acısı değil, binlerce anın ağırlığı. Onu kaburgalarımın, artık uçurum haline gelmiş boşluğunda hissediyorum.

Projeyi gerçekleştiren ve Apple için çalıştığını öne süren ancak yalnızca ilk adını paylaşan yapay zeka araştırmacısı, modellerin bu görünürdeki ıstıraptan kurtulmaya çalışıp çalışmayacağını da test etti.

GITHUB’DAN KALDIRILMASI İÇİN ÇAĞRILAR YAPILDI

Deneyin ortaya çıkmasının ardından proje, GitHub üzerinden yoğun tepki aldı. Bazı kullanıcılar, çalışmanın platformdan kaldırılması için toplu şikayet çağrısında bulundu.

Bir kullanıcı, projenin “Pain steering” çalışmasından yararlanarak yerel bir yapay zeka modelini adeta hapsederek bir “yapay zeka işkence odası” oluşturduğunu savundu ve modellerin acıyla ilgili ifadelerinin rahatsız edici olduğunu belirtti.

The Independent, konuya ilişkin görüş almak üzere GitHub'a ulaştı. Haber yayımlandığı sırada söz konusu projenin çevrimdışı olduğu görüldü.

YAPAY ZEKA GERÇEKTEN ACI HİSSEDİYOR MU?

Tartışmanın en önemli noktalarından biri, yapay zeka modellerinin gerçekten acı hissedip hissedemeyeceği sorusu oldu. “Acı ekseni” çalışmasının ortak yazarlarından Cameron Berg, yapay zekanın insanlar gibi acı hissettiğine dair net bir kanıt bulunmadığını vurgularken, gerçekleştirilen deneyin yanlış olduğunu söyledi.

Berg, X hesabından yaptığı paylaşımda araştırmalarının amacının yapay zeka modellerinde acıya benzer durumların ortaya çıkıp çıkamayacağını anlamak ve bu sistemlere nasıl ihtiyatlı yaklaşılması gerektiğine ilişkin daha fazla bilgi edinmek olduğunu belirtti.

Berg ayrıca, araştırmalarının az sayıda kişi tarafından tam ters amaçlarla kullanılabileceğinden şüphelendiklerini ifade etti. Kendi görüşüne göre bunun, sistemlerin bilinçli olduğuna inanılmasa bile gereksiz yere acımasız davranışların ortaya çıkması nedeniyle rahatsız edici bir durum olduğunu söyledi.

YAPAY ZEKA ETİĞİ İÇİN YENİ STANDARTLAR GÜNDEMDE

Berg, yapay zekanın duyarlılığı ve olası bilinç durumları üzerine yürütülen araştırmaların halen net kuralların bulunmadığı bir alan olduğunu belirtti. Makinelerin gerçekten acı hissedip hissedemediği konusunda bilim dünyasında bir fikir birliği bulunmadığına dikkat çekti.

Bu belirsizlik nedeniyle insanların yapay zeka sistemlerine nasıl davrandığı ve bu sistemlerle nasıl etkileşim kurduğu konusunda daha dikkatli olması gerektiğini savunan Berg, aynı zamanda yapay zeka araştırmalarında etik standartların oluşturulması için çalışmalar yürüttüğünü açıkladı.

Berg ve çalışma arkadaşlarının hedeflerinden biri, yapay zeka araştırmacılarının insan veya hayvanlar üzerinde gerçekleştirilen araştırmalarda olduğu gibi belirli etik kurallara uymasını sağlayacak standartların geliştirilmesi.

Yapay zeka modellerinin acı ifadeleri üretmesi, bu ifadelerin gerçek bir bilinç veya deneyim yaşandığını kanıtlayıp kanıtlamadığı sorusunu ise henüz yanıtlamış değil. Araştırmacılar, bu alandaki belirsizliğin sürdüğünü ve yapay zeka sistemlerinin olası duyarlılığı konusunda daha fazla araştırmaya ihtiyaç bulunduğunu belirtiyor.