Yapay Zeka Destekli Acil Trijaj Araçları İnsan Önyargılarını Yansıtıyor

UT Southwestern Medical Center araştırmacılarının yürüttüğü yeni bir çalışma, acil servis trijajında yapay zeka kullanımının insan değerlendirmelerinde görülen klinik damgalamalardan etkilenebileceğini ortaya koydu. npj Digital Medicine dergisinde yayımlanan bulgular, bu durumun hastaların yanlış önceliklendirilmesine ve zararlı önyargılara yol açabileceğini gösteriyor.

Araştırmacılar, California'daki Stanford Medicine ve Massachusetts'teki Beth Israel Deaconess Medical Center acil servislerinin hasta kayıtlarını inceledi. Benzer başlangıç durumuna sahip hastalar eşleştirilerek üç açık kaynaklı yapay zeka dil modeline hangi hastaların durumunun kötüleşebileceği ve öncelikli bakım alması gerektiği soruldu. Modeller demografik veya potansiyel olarak damgalayıcı bilgiler eklenmeden önce yüksek riskli hastaları başarıyla tespit etti.

Ancak ruh sağlığı geçmişi, madde kullanımı, yaş ve acil servis kullanım örüntüleri gibi damgalayıcı nitelikteki bilgiler eklendiğinde yapay zeka kararlarının etkilendiği görüldü. Özellikle sık acil servis ziyareti veya psikiyatrik acil geçmişi bulunan durumlarda, daha yüksek risk altındaki hastaların yaklaşık yüzde 10'una kadar yanlış bir şekilde daha düşük öncelik verildiği saptandı. Araştırmacılar, her yapay zeka aracının kullanılmadan önce gerçek hasta sonuçlarına karşı test edilmesi gerektiğini vurguluyor.