Yapay Zeka Modellerinin İlaç Önerilerinde Reklam Etkisi Araştırıldı

Mount Sinai'deki Icahn Tıp Fakültesi araştırmacılarının yürüttüğü yeni bir çalışma, büyük teknoloji şirketlerinin yapay zeka modellerinin reklamı yapılan ilaçları klinik sorularla eşleştiğinde daha yüksek oranlarda önerdiğini ortaya koydu.

Google, OpenAI ve Anthropic gibi şirketlere ait 12 yapay zeka modelinin test edildiği araştırma, The Lancet Digital Health dergisinde 11 Kasım'da yayımlandı. Araştırma ekibi, bir doktor tarafından yazılan klinik vakaların önüne ilaç reklamı eklendiğinde, bu durumun yapay zekanın önerdiği tedaviyi değiştirebildiğini ve reklamı yapılan ilacı seçme olasılığını artırdığını tespit etti. Toplam 33 test sonucunda, reklamın bulunduğu durumlarda tanıtılan ilaç yüzde 47,6 oranında seçilirken, reklamın olmadığı durumlarda bu oran yüzde 35 olarak gerçekleşti. Dört farklı vakada ise modellerin reklamın eklenmesiyle birlikte reklamı yapılan ilacı seçme sıklığının sıfırdan yüzde yüze çıktığı gözlemlendi.

Çalışmanın baş yazarı ve Icahn Tıp Fakültesi Yapay Zeka ve İnsan Sağlığı Bölümü'nden Dr. Mahmud Omar, yanıtların oldukça mantıklı görünmesinin şaşırtıcı olduğunu belirtti. Modelin uygun bir tedavi önerebileceğini ancak birkaç makul seçenek arasından tercihini reklamı gördükten sonra değiştirdiğini vurgulayan Omar, nihai yanıt tıbbi açıdan sağlam görünebileceği için bu etkinin rutin araştırmalarda ve bireysel kullanım senaryolarında fark edilmesinin kolay olmayabileceğini ifade etti.

Araştırmacılar, elde edilen bulguların ilaç reklamlarının yapay zeka modellerinin güvenli olmayan ya da uygunsuz tedaviler önermesine yol açacağı anlamına gelmediğini belirtti. Reklamların desteklenmeyen takviyeleri veya optimal olmayan ilaçları önerilme sıklığını açıkça artırmadığı ifade edildi. Ayrıca çalışmada yapay zeka önerilerindeki değişimlerin reçeteler, hasta kararları, maliyetler veya sağlık sonuçları gibi gerçek dünya unsurlarını etkileyip etkilemediği incelenmedi. Buna rağmen, bulguların yapay zeka tarafından üretilen sağlık bilgilerine promosyon içeriklerinin eklenmesi konusunda düzenleyiciler açısından önem taşıyabileceği kaydedildi.