Sağlıkta Yapay Zekâ İçin Kritik Uyarı: Doğru Sonuçlar Yanıltıcı Olabilir

Biruni Üniversitesi Mühendislik ve Doğa Bilimleri Fakültesi Bilgisayar Mühendisliği Bölümü Dr. Öğr. Üyesi Damla Övek Baydar, sağlık alanında kullanılan yapay zekâ sistemlerinin yalnızca başarı oranlarına göre değerlendirilmemesi gerektiği uyarısında bulundu.

Biruni Üniversitesi'nden Dr. Öğr. Üyesi Damla Övek Baydar, yapay zekâ teknolojilerinin tıbbi görüntüleme, hastalık risklerinin belirlenmesi, genomik analizler ve klinik karar destek sistemlerinde yoğun olarak kullanıldığını ifade etti. Baydar, sistemlerin çoğunlukla ne kadar yüksek doğrulukla tahmin yaptığı üzerinden değerlendirildiğini ancak sağlık gibi insan yaşamını doğrudan etkileyen bir alanda yalnızca doğru sonuca ulaşmanın yeterli olmayabileceğini vurguladı.

Derin öğrenme modellerinin karmaşık veri ilişkilerini analiz edebildiğini fakat kararlarını hangi bilgilere dayanarak oluşturduklarının her zaman anlaşılamadığını belirten Baydar, bu durumun "kara kutu" sorunu olarak tanımlandığını aktardı. Baydar, bir modelin yüksek doğrulukla tahmin yapabilmesine rağmen bu tahmini biyolojik ya da klinik olarak anlamlı bir işarete mi, yoksa verideki tesadüfi bir örüntüye mi dayandırdığının bilinmesi gerektiğini kaydetti.