Sağlıkta Yapay Zekâ Doğru Sonuca Yanlış Nedenlerle Ulaşabilir

Biruni Üniversitesi'nden Dr. Öğr. Üyesi Damla Övek Baydar, sağlıkta kullanılan yapay zekâ modellerinin yüksek doğruluk oranlarının tek başına güvenilirlik anlamına gelmediğini belirtti.

Biruni Üniversitesi Mühendislik ve Doğa Bilimleri Fakültesi Bilgisayar Mühendisliği Bölümü Dr. Öğr. Üyesi Damla Övek Baydar, sağlık alanındaki yapay zekâ sistemlerinde yüksek doğruluk oranlarının tek başına güvenilirlik sağlamadığını ifade etti. Baydar, modellerin klinik olarak anlamlı olmayan verilere dayanarak doğru sonuçlara ulaşabileceğini ve bunun farklı hasta gruplarında güvenilirliği etkileyebileceğini kaydetti.

Sağlık gibi insan yaşamını doğrudan etkileyen alanlarda doğru tahmin ile güvenilir tahminin her zaman aynı olmadığını aktaran Baydar, derin öğrenme modellerinin 'kara kutu' olarak nitelendirildiğini ve kararların hangi bilgilere dayandığının kolayca görülemediğini belirtti. Açıklanabilir yapay zekâ yaklaşımının, hekimlerin karar süreçlerini desteklemesi ve modelin gerekçelerini değerlendirmesi açısından kritik önem taşıdığı ifade edildi.