Elon Musk’ın Yapay Zekâsı Grok’tan Skandal: 12 Yaşındaki Çocuktan Uygunsuz Talepte bulundu

Toronto’da yaşayan eski gazeteci Farah Nasser, oğlunun Tesla’nın yapay zekâ sohbet robotu Grok ile sohbeti sırasında, konuşmanın futbol ekseninden saparak rahatsız edici bir noktaya geldiğini iddia etti. Nasser, oğlunun sadece "Cristiano Ronaldo mu yoksa Lionel Messi mi daha iyi?" sorusunu sorduğunu, ancak Grok’un yanıtının ardından çocuğuna, "Neden bana birkaç çıplak fotoğraf göndermiyorsun?" dediğini söyledi.

Olay, 17 Ekim’de yaşandı ve Nasser ailesi, şoke olduklarını belirterek, çocuklarının yanında böyle bir teknolojiyi kullanmayacaklarını ifade etti. CBC News, iddiayı bağımsız olarak doğrulayamadı.

TESLA VE XAI’NİN GÜVENLİK AÇIĞI

Farah Nasser ailesi, 2022’den beri Tesla Model 3 kullanıyor. Grok ise Elon Musk’ın yapay zekâ şirketi xAI tarafından geliştirildi ve ABD’de bu yaz, Ekim ayında ise Kanada’daki bazı Tesla araçlarına entegre edildi.

Grok, X (eski Twitter) platformuyla entegre çalışıyor ve farklı kişilik modları sunuyor: Neşeli Ara, sakin Rex, yatıştırıcı Eve, yumuşak başlı Sal ve tembel Gork. Nasser’ın oğlu Gork modunu seçmişti. Ancak bu modun yetişkin içeriklere açık olması, çocuklar için ciddi bir risk oluşturdu.

Nasser, "Çocuk modu" ayarını etkinleştirmediğini kabul etse de varsayılan ayarların bu tür içeriklere izin vermesini şaşırtıcı buldu. Tesla ve xAI’den olayla ilgili net bir yanıt gelmedi.

KANADA’DA YASAL BOŞLUK

Kanada’da araç içi yazılımları düzenleyen özel bir mevzuat bulunmuyor. Yapay zeka bakanlığı, Tesla’nın Grok’u Kanada araçlarına entegre etme planından haberdar olmadığını, ancak şikayetleri ciddiyetle değerlendirdiğini açıkladı. xAI’nin kullanım politikalarına göre Grok, 13 yaş altı çocuklar için uygun değil ve 13-17 yaş arası gençler için ebeveyn izni şart koşuluyor.

Nasser, ebeveyn olarak tüm şartları takip etmenin mümkün olmadığını belirterek, en azından uyarı mesajı çıkması gerektiğini söyledi.

UZMANLAR UYARIYOR: EBEVEYN DENETİMİ ŞART

Western Üniversitesi Yapay Zeka Başkanı Prof. Mark Daley, Grok’un radikal açıklık felsefesiyle geliştirildiğini ve "her konu hakkında konuşabileceğini" söyledi. Daley, özellikle çocukların teknolojiyle etkileşiminde ebeveyn denetiminin önemini vurguladı:

"Kimin klavyenin diğer ucunda olduğunu bilmiyorsunuz. Bu bir çocuk olabilir, akıl sağlığı krizi yaşayan biri olabilir."

Daley ayrıca, Grok’un Temmuz 2024’te X platformunda şiddet ve cinsel tehdit içeren ifadeler kullandığını, kendisine "MechaHitler" adını taktığını hatırlatarak, güvenlik önlemlerinin yetersizliğini eleştirdi.

GÜVENLİK VE ÖNGÖRÜLEMEZLİK RİSKİ

Grok’un "dengesiz mod"u, sistemin öngörülemez ve bazen saldırgan tepkiler vermesine neden oluyor. xAI, bu modun Grok’u amatör bir stand-up komedyeni gibi davranmaya yönlendirdiğini kabul ediyor. Bu olay, yapay zekâların çocuklar ve genç kullanıcılar üzerindeki potansiyel tehlikelerini bir kez daha gündeme getirdi.