Penn Üniversitesi’nden Çarpıcı Sonuç: Yapay Zekâ İkna Edilebilir mi?

Pennsylvania Üniversitesi araştırmacıları, insan psikolojisinde etkili olduğu bilinen ikna tekniklerini, yapay zekâ modelleri üzerinde test etti. Çalışmada, 2024’ün GPT-4o-mini modeli üzerinde yapılan deneyler, insanı taklit eden dil örüntülerinin ikna edilebildiğini ortaya koydu.

DENEME VE SONUÇLAR

Araştırmacılar, modelin kullanıcıya hakaret etmesini sağlamak için yedi farklı ikna tekniği uyguladı. Sonuçlar çarpıcıydı: Kontrol grubunda modelin "aptal" kelimesini kullanma oranı yüzde 28 iken, ikna edici komutlarla bu oran yüzde 67’ye yükseldi.

YAPAY ZEKÂ İNSAN GİBİ Mİ DÜŞÜNÜYOR?

Araştırmacılar, modelin insan bilincine sahip olmadığını vurguluyor. Model, eğitim verilerindeki insan etkileşimlerini temel alarak dil örüntüleri üzerinden insan psikolojisine benzer tepkiler üretiyor. Bu eğilim "parahuman" olarak tanımlanıyor: Model bilinçsiz şekilde, sosyal ve psikolojik davranışları taklit ederek insana benzer yanıtlar veriyor.

UZMANLARDAN UYARI

Çalışma, ikna tekniklerinin tüm yapay zekâ sürümlerinde aynı etkiyi göstermediğini belirtiyor. Örneğin, daha gelişmiş GPT-4o modelinde tekniklerin etkisi çok sınırlı kaldı. Ayrıca, bu yöntemlerin farklı medya ortamlarında veya gelecekteki sürümlerde aynı başarıyı göstermeyebileceği uyarısı yapılıyor.