Google AI uydurdu, milyonlar inandı: Avustralya kimlik krizi

Google’ın yapay zekâ destekli "Overview" (genel bakış) özelliği, kullanıcıya Avustralya’da internete erişmek için kimlik doğrulamasının zorunlu hale geleceğini ve bu süreci AU10TIX adlı özel bir şirketin yöneteceğini söyledi.

Bu bilgi, bir ekran görüntüsü aracılığıyla sosyal medyada kısa sürede milyonlara ulaştı ve dijital dünyada "gizli gözetim" korkusunu tetikledi.

Ancak iddiaların hiçbir temeli yoktu.

KAYNAK VAR GİBİ GÖSTERİLDİ, HİÇBİR ŞEY YAZMIYORDU

Yapay zekânın verdiği cevapta bir kaynak da sunulmuştu. Bu da bilginin doğru olduğu izlenimini güçlendirdi. Oysa kaynakta ne kimlik zorunluluğuna ne de AU10TIX adlı firmaya dair herhangi bir bilgi yoktu. Sayfa yalnızca Avustralya’daki dijital kimlik reformları hakkında genel bilgiler içeriyordu.

Kullanıcıların büyük bölümü kaynağın içeriğini kontrol etmeden bilgiyi doğru kabul etti.

UZMANLAR DEVREYE GİRDİ

Yaygın panik ve bilgi kirliliği, siber güvenlik araştırma grubu vx-underground'ın müdahalesiyle son buldu. Grup, X (eski Twitter) üzerinden yaptığı açıklamayla bu cevabın, yapay zekâların bazen gerçekle ilgisi olmayan bilgiler ürettiği "hallüsinasyon" örneklerinden biri olduğunu net şekilde ortaya koydu.

Grubun asıl eleştirisi ise, kullanıcıların sorgulamadan her bilgiyi paylaşma eğilimine yönelikti.

SORUMLULUK SADECE YAPAY ZEKÂDA DEĞİL

Olay, dijital çağda bilginin doğruluğunu denetlemenin neden bu kadar hayati olduğunu gözler önüne serdi. Çünkü hatalı bilgiler yalnızca yanlış anlamalara değil, kamuoyunun büyük ölçekte manipüle edilmesine de yol açabiliyor.

Uzmanlara göre, bu tip olaylar yalnızca yapay zekâ sistemlerinin geliştirilmesi gerektiğini değil, kullanıcıların medya okuryazarlığı becerilerinin de artırılması gerektiğini gösteriyor.