OpenAI CEO’su Uyardı: “Yapay Zekâya Her Görevi Vermeyin!”

OpenAI’nin kurucu ortağı ve CEO’su Sam Altman, şirketin geliştirdiği ChatGPT’nin yeni nesil "ajan" işlevi hakkında çarpıcı uyarılarda bulundu. OpenAI tarafından tanıtılan bu özellik, ChatGPT’nin kullanıcı müdahalesi olmadan belirli görevleri otomatik olarak yerine getirmesini mümkün kılıyor. Düğün organizasyonlarından kıyafet alışverişine, uçak bileti rezervasyonlarından hediye seçimine kadar birçok görev, artık ChatGPT tarafından bağımsız biçimde gerçekleştirilebiliyor.

"KÖTÜ NİYETLİLER FIRSAT KOLLUYOR"

Ancak Altman, bu sistemlerin özellikle dolandırıcılık gibi kötü niyetli amaçlarla da kullanılabileceği uyarısında bulundu. Ona göre, kullanıcıların ajana geniş ve belirsiz görevler tanımlaması büyük risk taşıyor. Örneğin "dünkü e-postalarımı oku ve ilgilen" gibi muğlak komutlar, dolandırıcıların kişisel verilere erişmesini kolaylaştırabilir.

Altman, görev tanımlarının net ve sınırlandırılmış olması gerektiğini vurgularken, "ajanın sadece ihtiyacı olan verilere erişmesine izin verilmeli" diyor. Kıyafet satın alma görevinde takvim erişiminin gerekli olmadığını vurgulayan Altman, bu tür detayların gözden kaçırılmaması gerektiğine dikkat çekiyor.

"İNSAN DENETİMİ ŞART"

Altman’a göre, ajanın düğün için uygun bir kıyafet seçmesi, ulaşım ayarlaması ya da hediye seçmesi gibi görevleri başarıyla tamamlaması mümkün. Ancak tüm bu süreçlerin mutlaka insan gözetiminde yürütülmesi gerektiğini savunuyor. "Yapay zekâ her ne kadar güçlü bir yardımcı olsa da, onu serbest bırakmak tehlikeli olabilir" diyerek kullanıcıları bilinçli olmaya davet ediyor.

YÜKSELEN TREND AMA KIRILGAN DENETİM

OpenAI, ChatGPT’nin yaygınlaşmasıyla birlikte dünya çapında büyük bir etki yaratmış durumda. Günde 2,5 milyardan fazla sorgu alan platformun, sadece ABD’den aldığı sorgu sayısı 330 milyonu buluyor. Haftalık aktif kullanıcı sayısı ise 500 milyonu aşmış durumda. Buna karşın, 2024 yılı verilerine göre OpenAI yaklaşık 5 milyar dolar zarar açıkladı, buna rağmen gelirlerini 10 milyar dolara kadar çıkarmayı başardı.

Altman’ın son açıklamaları, yapay zekâ tabanlı hizmetlerin günlük yaşamda artan rolüne karşın, güvenlik ve mahremiyet konularının hâlâ çözülmesi gereken temel meseleler olduğunu ortaya koyuyor. Özellikle de tam yetki verilen yapay zekâ ajanlarının, kontrolsüz biçimde harekete geçmesinin yaratabileceği sonuçlar, teknolojinin gelecekteki toplumsal kabulünü doğrudan etkileyecek.