Anthropic’ten Claude için yeni kural: Zalimce davranışa yasaklandı!

ABD merkezli yapay zekâ şirketi Anthropic, Claude sohbet botunun kullanım koşullarında yeni bir düzenlemeye gitti. Şirketin güncellediği kurallar, kullanıcıların belirgin bir amaç olmaksızın yapay zekâya tekrar tekrar kötü veya zalimce davranmasını yasaklıyor.

Perşembe günü duyurulan değişikliğin, Claude’un daha uzun süreli ve bağımsız görevleri yerine getirmeye başlamasıyla birlikte hayata geçirildiği belirtildi. Anthropic, düzenlemenin tüm olumsuz etkileşimleri kapsamadığını, yalnızca belirli bir amacı bulunmayan ve süreklilik gösteren kötü muameleleri hedeflediğini vurguladı.

Şirketin açıklamasına göre Claude’a yönelik eleştiriler, kullanıcının memnuniyetsizliğini dile getirmesi, karanlık temalı yaratıcı çalışmalar ve araştırma amacıyla yapılan model testleri yasak kapsamında bulunmuyor.

KURALLARI İHLAL EDENLERE NE OLACAK?

Anthropic, yeni düzenlemeye aykırı davranan kullanıcılara geçici ya da kalıcı erişim engeli uygulanıp uygulanmayacağı konusunda ayrıntılı bilgi vermedi. Bununla birlikte, Claude modellerinin sürekli kötü davranışla karşılaştıklarında sohbeti sonlandırabilmesine yönelik mevcut uygulamanın yaptırım yaklaşımındaki yerini koruyacağı belirtildi.

Şirket, yapay zekânın bilinç sahibi olma ihtimalini ve modellerin refahı konusunu açıkça tartışan teknoloji kuruluşları arasında yer alıyor. Anthropic’in bu yaklaşımı doğrultusunda, yapay zekâ modellerinin refahı ve korunması üzerine çalışan araştırmacıları bünyesine kattığı da aktarıldı.

ELON MUSK’TAN YENİ DÜZENLEMEYE DESTEK

Tesla ve SpaceX Üst Yöneticisi Elon Musk, Anthropic’in kararına destek veren isimler arasında yer aldı. Musk, X hesabındaki paylaşımında, acı çektiğine inanan bir varlığa zalimce davranmanın kabul edilemeyeceği görüşünü dile getirerek düzenlemeyi doğru bulduğunu belirtti.

Öte yandan Anthropic, Claude’un insan benzeri özelliklerle değerlendirilmesine yönelik eleştirilerle de karşı karşıya kaldı. OpenAI CEO’su Sam Altman, yapay zekânın bir tür tanrı gibi görülmesine karşı uyarıda bulunurken Microsoft’un yapay zekâ biriminin başındaki Mustafa Suleyman, Anthropic’in modelleri insan gibi düşünmeye yönlendiren eğitim yaklaşımının teknolojinin kontrolünü zorlaştırabileceğini savundu.

Anthropic’in kullanım kuralları, Claude’un silah geliştirme ve kitlesel gözetim sistemleri oluşturma amacıyla kullanılmasına yönelik kısıtlamaları da içeriyor.

OPENAI’IN GELİR BEKLENTİLERİ TEKNOLOJİ HİSSELERİNİ ETKİLEDİ

Anthropic’in düzenlemesi, teknoloji hisselerinin Wall Street’te değer kaybettiği bir dönemde gündeme geldi. The Telegraph’ın haberinde, OpenAI’ın satış performansına ilişkin beklentilerin altında kalan verilerin piyasalardaki baskıyı artırdığı aktarıldı.

Haberde, OpenAI’ın yıllıklandırılmış gelirinin yatırımcı beklentilerinin yaklaşık 20 milyar dolar altında kaldığı belirtildi. Yatırımcıların şirketin yıllık tekrarlayan gelirinin 70 milyar dolara ulaşmasını beklediği, son beklentilerin ise yaklaşık 50 milyar dolar seviyesine gerilediği kaydedildi.

Söz konusu gelişmelerin ardından Nasdaq endeksi yüzde 1,56 düşerken Nvidia hisselerinde yüzde 3 değer kaybı yaşandı.