Yapay zeka istenmeyen bilgileri de mi veriyor?

Irkları biliyor

Yapılan yeni araştırmalara göre, röntgen filmlerini analiz eden yapay zeka, hastaların ırkını şaşırtıcı derecede doğrulukla tanımlayabilmiş. Fakat aynı görüntüyü inceleyen bilim insanlarının bunu yapamayacağı da tespit edilenler arasında. Tıbbi kullanımlar için birçok yazılım algoritması onaylanmışken Al'nın ırksal önyargıların devam etmesine sebep olacağından dolayı endişe duyuyorlar.

Bozuk ve düşük olsa bile...

Özellikle, makine öğrenimi modellerinin, aşırı derecede bozuk ve düşük çözünürlüklü görüntülerden bile ırkı nasıl tanımlayabildiğini tam olarak çözememekten endişeli olduklarını söylemişler. Yayınlanan çalışmalarda tıbbi görüntülerden ırkı nasıl tespit edebildiğini araştırdılar. Ekibin ulaştığı sonuca göre; Model bir hastanın ırkını tanımlayabiliyorsa, bu, modellerin doğrudan bu görev için eğitilmemesine rağmen, ırksal bilgileri tanımayı dolaylı olarak öğrendiğine işaret ediyor. Ancak, istenmeden de olsa sağlanan bu ek bilginin olası sorunlar çıkarabileceğine de işaret ediliyor.

Araştırmanın yazarları; "Tıbbi görüntü analiziyle ilgilenen tüm geliştiricilerin, düzenleyicilerin ve kullanıcıların derin öğrenme modellerinin kullanımını son derece dikkatli bir şekilde düşünmelerini şiddetle tavsiye ediyoruz" diyor ve ekliyor: "Irk bilgisi özel olarak sağlanmamış olsa bile, makinenin bunu ortaya koyuyor olması, mevcut tıbbi uygulamada var olan ırksal eşitsizliklerin sürdürülmesine veya hatta daha da kötüleştirmek için doğrudan bir mekanizma olarak ortaya çıkmasına neden olabilir" diyerek durumun ciddiyetini ifade etmişler.

Dikkat edilmeli

Açıkçası iş gerçekten korkutucu boyutlara varabilir. Sadece ırklar meselesi üzerinden değerlendirmemek gerek. Sonuçta kendi kendini geliştirebilen ve kendi kendi öğrenen bir yazılım sisteminden bahsediyoruz. Ve bu sistem insanların kontrolü altında. Eminim ki ilerleyen zamanlarda daha mühim meselelerde sorun çıkarabilir. Yapay zekanın geleceği son raddeyi çok merak edenlerden biri olsam da insan biraz da korkmuyor değil.

Fazilet.Senol@milliyet.com.tr
twitter.com/SenolFazilet
instagram.com/SenolFazilet