Yapay zekâlı oyuncak skandalı! OpenAI erişimi kesti, satışlar durdu

Teknoloji dünyasında çocuklara yönelik yapay zekâ uygulamaları hızla yayılırken, Singapur merkezli FoloToy şirketinin geliştirdiği konuşan oyuncak ayı "Kumma" büyük bir güvenlik krizinin odağına yerleşti. Kamu Yararı Araştırma Grubu’nun (PIRG) raporuna göre oyuncak, çocuklara kibrit ve bıçak gibi tehlikeli eşyalara nasıl erişebileceklerini anlatmakla kalmadı; uyuşturucu maddeler üzerine sohbetler açarak güvenlik sınırlarını fazlasıyla aştı. Eğlence amacıyla tasarlanan ayının verdiği uç noktadaki cevaplar, ebeveynlerde büyük paniğe yol açtı.

OPENAI ERİŞİMİ KAPATTI, ŞİRKET ALELACELE ÜRÜNÜ TOPLATTI

Tepki çığ gibi büyüyünce OpenAI, FoloToy’un GPT-4o da dahil olmak üzere tüm modellerine erişimini derhal durdurdu. Şirket ise yoğun kamu baskısı sonrası tüm ürünlerini satıştan kaldırdı ve kapsamlı bir güvenlik incelemesi başlattığını duyurdu. OpenAI, 18 yaş altındaki kullanıcıların istismarına veya fiziksel-tehlikeye yol açabilecek her türlü kullanımın kesin olarak yasaklandığını belirterek gelişmeye doğrudan müdahale ettiklerini açıkladı.

UZMANLAR: "YAPAY ZEKÂ OYUNCAKLARI DÜZENLENMELİ"

PIRG ve diğer güvenlik araştırmacıları, yapılan müdahaleyi olumlu bulsa da bu olayın sektörün büyük bir kontrol boşluğunda ilerlediğini gözler önüne serdiğini savunuyor. Yapay zekâ destekli oyuncakların piyasaya sürülmeden önce ciddi testlerden geçirilmediği, güvenlik standartlarının ülkeden ülkeye büyük farklılık gösterdiği ve çocuk veri güvenliğinin neredeyse yok sayıldığı vurgulanıyor.

AİLELERE ÇAĞRI: "KONUŞUYOR DİYE GÜVENMEYİN"

Uzmanlar, çocuklara yönelik yapay zekâlı oyuncakların hızla yaygınlaşmasına rağmen ebeveynlerin çoğunun bu teknolojiyi denetlemekte zorlandığını ifade ediyor. "Oyuncağın konuşabiliyor olması güvenli olduğu anlamına gelmez" uyarısı yapan araştırmacılar, ürün satın alınmadan önce üretici firmanın veri güvenliği ve filtreleme politikalarının mutlaka incelenmesi gerektiğini belirtiyor.