İnsani Yardımda Yapay Zeka Sistemlerini Değerlendirme Yöntemleri
Mevcut insani yardım yapay zeka değerlendirmelerindeki eksiklikler inceleniyor ve teknik doğruluk, kullanıcı katılımı ile bağımsız etkiyi garanti eden dört aşamalı bir çerçeve öneriliyor.
İnsani yardım sektöründe kullanılan yapay zeka sistemlerinin değerlendirilmesinde yaşanan eksiklikler ve başarısızlıklar üzerine yapılan analizler, mevcut yaklaşımların temelden hatalı olduğunu ortaya koyuyor. Doğrudan etki ölçümüne geçmek yerine aşamalı bir değerlendirme modeli öneriliyor.
Mevcut Yapay Zeka Değerlendirmelerindeki Hatalar
Sektördeki genel yaklaşım, sistemlerin düzgün çalışıp çalışmadığını kontrol etmeden doğrudan etki değerlendirmelerine atlamaktadır. Bu durum milyonlarca dolarlık algoritmaların başarısız olmasına ve projelerin başlamadan bitmesine yol açmaktadır.
Danimarka Mülteci Konseyi, UNHCR ve WFP gibi kuruluşların başarılı yapay zeka ve tahmin modelleri bulunmasına rağmen, sektör genelindeki değerlendirme hataları projelerin potansiyeline ulaşmasını engellemektedir.
Dört Aşamalı Sistematik Değerlendirme Çerçevesi
Merkez tarafından önerilen yeni çerçeve, kanıt oluşturmak için adım adım ilerleyen ardışık dört değerlendirme seviyesi sunmaktadır. Bu yapı, mevcut düzensizliğe sistematik bir alternatif oluşturmaktadır.
İlk seviye olan model değerlendirmesi, herhangi bir yapay zeka sistemini devreye almadan önce onun amaçlanan işlevini doğru ve tutarlı bir şekilde yerine getirip getirmediğini doğrulamaktadır.
Kullanıcı Etkileşimi ve Davranış Değişikliği
İkinci seviye ürün değerlendirmesi, teknik doğruluk sağlansa bile hedef kullanıcıların sistemi terk edip etmediğini inceleyerek gerçek kullanım oranlarını ortaya koymaktadır.
Üçüncü seviye olan kullanıcı değerlendirmesi aşamasında ise yüksek etkileşimin anlamlı sonuçlar doğurup doğurmadığı ve uygun davranış değişikliklerine yol açıp açmadığı analiz edilmektedir.
Bağımsız Etki Değerlendirmesi ve Sonuç
Dördüncü ve son seviye, teknik güvenilirlik, kullanıcı katılımı ve davranış değişikliği onaylandıktan sonra yatırımların yaşam kalitesini artırıp artırmadığını ölçen bağımsız etki değerlendirmesidir.
Bu sıralı yaklaşım, maliyetli hataların önüne geçerek insani yardım projelerinin sürdürülebilirliğine ve bağışçı hedeflerine ulaşmasına katkı sağlamaktadır.