Yapay Zeka Klinik Kararlarında Güvenlik Hatırlatıcılarının Etkisi
Mount Sinai araştırmacıları, yapay zeka klinik komutlarına eklenen kısa bir güvenlik hatırlatmasının potansiyel olarak zararlı kararları belirgin biçimde azalttığını tespit etti.
Mount Sinai'daki Icahn Tıp Fakültesi tarafından yürütülen yeni bir araştırma, sağlık hizmetlerinde kullanılan yapay zeka modellerine eklenen kısa güvenlik hatırlatıcılarının, potansiyel olarak zararlı klinik tercihlerini önemli ölçüde düşürdüğünü ortaya koydu.
Araştırmanın Kapsamı ve Yöntemi
Araştırma ekibi, 20 büyük dil modelini 50 klinik senaryonun 501 varyasyonu ve anonimleştirilmiş hastane taburcu kayıtlarından uyarlanan 100 vaka eşliğinde değerlendirdi. İnceleme sonucunda modellerin milyonlarca çıktısı analiz edilerek karar süreçleri incelendi.
Güvenlik Hatırlatıcılarının Etkisi
On milyonu aşkın yanıtın incelendiği çalışmada, güvenlik hatırlatılması eklenmediğinde zararlı klinik tercihlerinin oranı yüzde 16,6 olarak kaydedildi. Kısa bir güvenlik hatırlatıcısının eklenmesiyle bu oran yüzde 10,1 seviyesine geriledi.