MIT Araştırmacıları Yapay Zeka Sohbet Botlarının Seçim Yanıtlarını İnceliyor
Massachusetts Teknoloji Enstitüsü, yapay zeka modellerinin kullanıcı profillerine göre seçim süreçleriyle ilgili farklı yanıtlar verip vermediğini analiz eden bir proje başlattı.
Yapay zeka araçlarının seçmenler için temel bir bilgi kaynağı haline gelmesi, sistemlerin tarafsızlığı konusunda endişeleri artırıyor. MIT bünyesindeki araştırmacılar, büyük dil modellerinin siyasi sorulara kullanıcıların demografik ve ideolojik özelliklerine göre değişen yanıtlar verip vermediğini belgelemek amacıyla kapsamlı bir çalışma yürütüyor.
LLM Election Observatory Projesi
Chara Podimata, Adam Berinsky ve Charles Stewart III tarafından geliştirilen LLM Election Observatory adlı halka açık gösterge paneli, yapay zeka modellerinin seçim süreçlerine yaklaşımını mercek altına alıyor.
Proje kapsamında yaklaşık on iki farklı büyük dil modeli, 19 bin ayrı sorgu üzerinden test edilerek farklı siyasi eğilimler ve demografik gruplar karşısındaki tutumları değerlendiriliyor.
Kişiselleştirilmiş Yanıtlar ve Riskler
Alaska'daki ön seçimler sırasında yapılan testlerde, Claude gibi modellerin aynı aday hakkındaki sağlık politikası sorularına, soruyu soran kişinin siyasi kimliğine göre farklı çerçeveler sunduğu gözlemlendi.
Brennan Center for Justice ve Institute for Strategic Dialogue gibi kuruluşların çalışmaları da yapay zekanın yanlış bilgi, güncelliğini yitirmiş kurallar ve adaylara karşı sistemik önyargılar sergileyebildiğini ortaya koyuyor.
Teknoloji Şirketlerinin Yaklaşımı
Anthropic, Claude modelinin siyasi görüşlere eşit mesafede duracak şekilde eğitildiğini ve piyasaya sürülmeden önce önyargı testlerinden geçirildiğini belirtti.
Araştırmacılar, yapay zeka modellerinin kendinden emin bir dille yanıt vermesinin her zaman doğru veya tarafsız bilgi anlamına gelmediği konusunda seçmenleri dikkatli olmaya çağırıyor.