Yapay Zeka Destekli Adli Risk Değerlendirme Araçları ve Önyargı Tartışmaları

Demokrasi ve Teknoloji Merkezi (CDT) tarafından hazırlanan yeni bir rapor, polislik, mahkeme öncesi serbest bırakılma ve suç tekrarı (recidivism) tahminlerinde kullanılan yapay zeka ile makine öğrenimi tabanlı algoritmik risk değerlendirme araçlarının entegrasyonunu inceleyerek ırksal önyargı ve hesap verebilirlik sorunlarına dikkat çekti.

Mahkemeler ve cezaevi yetkilileri on yıllardır risk skorlaması için basit istatistiki skor kartlarına dayanıyordu; ancak federal hükümetin yapay zeka envanteri, yüksek riskli tahliye kararlarında artık makine öğreniminin kullanıldığını gösteriyor. Polislikte algoritmik risk değerlendirmesi, bir kişinin mahkemeye gelmeme veya gelecekte suç işleme olasılığını tahmin etmek için kullanılan istatistiki araçları kapsıyor ve bu durum mahkeme öncesi tutukluluk ile hapis cezalarını etkiliyor.

Mahkeme öncesi risk değerlendirmesi, henüz mahkum edilmemiş ancak tutuklanmış kişilere uygulanarak hakimlerin kefalet belirlemesine veya serbest bırakma koşulları koymasına yardımcı oluyor. Suç tekrarı tahmini ise mahkumiyet sonrasında gözetim seviyelerini ve tahliye tarihlerini belirlemek için kişileri değerlendiriyor. PATTERN, Public Safety Assessment ve COMPAS gibi sistemler bu süreçte yaş, istihdam ve suç geçmişi gibi girdileri kullanıyor. Adalet Bakanlığı'nın 2025 yapay zeka envanteri, PATTERN'i suç tekrarını tahmin etmek için ajan tabanlı yapay zeka kullanan yüksek etkili bir araç olarak sınıflandırdı.

Tarihsel olarak bu araçlar orta ve zayıf tahmin doğruluğu ile ırksal eşitsizlikler nedeniyle eleştiriliyor. ProPublica'nın 2016 ve Adalet Bakanlığı'nın 2021 incelemeleri; COMPAS ve PATTERN gibi araçların Siyah, Hispanik ve Asyalı bireyler için riski aşırı öngördüğünü ortaya koydu. Eleştirmenler, makine öğreniminin getirilmesinin bu temel veri ve önyargı sorunlarını çözmediğini savunuyor.

Şeffaflık ve Sivil Özgürlükler Üzerine Öneriler

Makine öğrenimi modelleri; karmaşık yapılar ve yapılandırılmamış vaka notları nedeniyle savunma avukatlarının skorları denetlemesini zorlaştırarak şeffaflık ve hesap verebilirlik kayıplarına yol açıyor. Yapay zeka modellerinin sürekli yeniden eğitilmesi doğrulama çalışmalarını karmaşıklaştırırken, gelecekteki gerçek zamanlı biyometrik entegrasyonlar risk skorlamasını mahkeme salonlarının dışına taşıyabilir. Sivil özgürlükleri korumak amacıyla sistem isimlerinin, sürümlerinin ve doğrulama tarihlerinin açıklanması, ayrıca sanıkların skor hesaplamalarını inceleyebilmesi için ticari sır savunmalarının kaldırılması öneriliyor.