Google'ın Yapay Zekası Skandalı: İnsan Beyninde Olmayan Bir Bölge Üretti

Sağlık sektöründe kullanılan yapay zeka araçlarının hata yapma potansiyeli, hekimler ve uzmanlar arasında endişeye neden oluyor. Bu endişelerin temelinde, yapay zekanın "halüsinasyon" olarak bilinen ve aslında gerçek olmayan bilgileri doğru gibi sunma eğilimi yer alıyor.

GOOGLE'IN MED-GEMINI MODELINDEKI CIDDI HATA

Bu sorunun ciddiyeti, Google'ın sağlık odaklı yapay zeka modeli Med-Gemini ile ilgili yaşanan bir olayla ortaya çıktı. Google araştırmacılarının Mayıs 2024'te yayımladığı bir makalede, Med-Gemini'nin radyoloji laboratuvarında beyin taramalarını analiz ettiği bir test sırasında, modelin "basilar ganglia" adında olmayan bir beyin bölgesinden bahsettiği görüldü.

Nörolog Bryan Moore, bu hatayı fark ederek durumu The Verge'e bildirdi. Google, bu hatayı "basal ganglia" (beynin motor hareketlerle ilgili bölgesi) ve "basilar artery" (beyin sapındaki ana damar) terimlerinin karışması olarak açıkladı ve bunun bir yazım hatası olduğunu savundu.

UZMANLARIN ENDIŞELERI

Uzmanlar, bu tür hataların internet aramalarında bilgi kirliliğine neden olabileceğini, ancak hastane gibi yüksek riskli ortamlarda sonuçlarının çok daha ölümcül olabileceğini belirtiyor. Providence sağlık sisteminin tıbbi bilgi direktörü Maulin Shah, bu iki harflik farkın "çok büyük bir sorun" olduğunu ve bu tür hataların "son derece tehlikeli" olduğunu söyledi.

Google, daha önce Med-Gemini'nin röntgen ve BT taramaları gibi görüntülerden hastalık teşhisinde "önemli potansiyele" sahip olduğunu belirtmişti. Ancak uzmanlar, özellikle insan sağlığını ilgilendiren alanlarda hata toleransının insan seviyesinin altında, çok daha düşük olması gerektiğini vurguluyor.