Tıbbi Görüntülemede Yapay Zeka İçin Yeni Sorumluluk Çerçevesi
Tıbbi görüntülemede kullanılan yeni nesil yapay zeka sistemlerinin yasal zorlukları ele alınarak beş katmanlı bir sorumluluk modeli öneriliyor.
Tıbbi görüntüleme alanında kullanılan genel amaçlı ve otonom yapay zeka sistemleri, mevcut yasal düzenlemeler ile insan-yapay zeka iş akışları arasındaki uyumsuzlukları gözler önüne seriyor. Geliştiriciler, kurumlar ve klinisyenler arasındaki sorumlulukların netleştirilmesi amacıyla beş katmanlı yeni bir hesap verebilirlik çerçevesi sunuluyor.
Tıbbi Görüntülemede Yapay Zekanın Evrimi
Tıbbi görüntüleme, nodül tespiti veya tümör segmentasyonu gibi sınırlı görevler sayesinde yapay zekayı ilk benimseyen alanlardan biri olmuştur. Ancak günümüzde heterojen görüntüleri işleyebilen, çoklu görevleri koordine eden genel amaçlı sistemler bu çerçeveyi dönüştürmektedir.
Beş Katmanlı Sorumluluk Çerçevesi
Veri, model, orkestrasyon, klinik kullanım ve kurumsal yaşam döngüsü olmak üzere beş katmandan oluşan bir hesap verebilirlik çerçevesi önerilmektedir. Bu yapı, bir sistem yetkilendirildiğinde veya denetlendiğinde kontrolün nerede olduğunu belirlemeyi hedefler.
Veri ve Model Sorumluluğu
Veri sorumluluğu, iş akışındaki her bir girdinin nereden geldiğini ve önceden belirlenmiş kurallara uygun olup olmadığını sorgular. Model sorumluluğu ise her bir modelin hangi görevleri yerine getirmesine izin verildiğini ve performans koşullarını kapsar.
Orkestrasyon ve Klinik Gözetim
Orkestratör rolündeki büyük dil modelleri veya vizyon modelleri, hangi aracın çağrılacağını seçer ve yürütme iz kayıtları tutar. Klinik kullanımda ise yapay zeka çıktıları, yetkin bir klinisyenin anlamlı denetimi altında kalmaya devam etmelidir.
Kurumsal ve Yaşam Döngüsü Denetimi
Tedarik, entegrasyon, personel eğitimi, performans izleme ve güncelleme kararları kurumların sorumluluğundadır. Kurumlar, denetim günlüklerini düzenli olarak incelemeli ve güncellemelerin ardından sistemleri yeniden yetkilendirmelidir.
Sigorta ve Geleceğe Yönelik Yaklaşımlar
Geleneksel tıbbi tazminat ve ürün sorumluluğu politikaları yapay zeka olaylarında belirsizlikler yaratmaktadır. Sigorta modellerinin, yapay zekaya devredilen otoriteler ve insan müdahale kapasitesi doğrultusunda evrimleşmesi beklenmektedir.