Yapay Zeka Modellerinde Konum Temelli Ayrımcılık Tehlikesi
USC araştırmacaları, yapay zeka karar alma sistemlerinin coğrafi veriler nedeniyle insanlara yaşadıkları yer üzerinden haksızlık edebileceğini ortaya koydu.
USC araştırmacıları, yapay zeka tabanlı karar mekanizmalarının, ırk ve etnisite gibi korunan özellikleri dikkate almasa bile coğrafi konum üzerinden istem dışı bir ayrımcılık üretebildiğini ve bunun finansal dezavantajlara yol açabildiğini açıkladı.
Konumun Karar Süreçlerindeki Gizli Rolü
Yapay zeka sistemleri, bireylerin kim olduğundan ziyade nerede yaşadığına odaklanarak insanları dezavantajlı duruma düşürebilmektedir. İyi bir kariyere ve yüksek kredi puanına sahip bireyler dahi sırf posta kodları nedeniyle daha yüksek sigorta primleri veya uygun olmayan kredi oranlarıyla karşılaşabilmektedir.
Uzamsal Önyargıların Ortaya Çıkardığı Sonuçlar
Araştırmayı yürüten ekibin lideri Nripsuta Ani Saxena, uzamsal önyargılar nedeniyle insanların haksız yere yüksek sigorta primleri ödediğini ve hayatlarını kolaylaştıracak bazı hizmetlere erişim kaybı yaşadığını belirtmektedir.
Tarihsel Eşitsizliklerin Verilere Yansıması
Yerleşim modelleri, onlarca yıllık konut ayrımcılığını ve eşitsiz yatırımları yansıttığı için yapay zeka sistemleri coğrafi verilerdeki bu tarihsel kalıpları öğrenebilmektedir. Bu durum, algoritmanın kararlarını bu geçmiş veriler üzerine kurmasına zemin hazırlamaktadır.
Daha Adil Sistemler İçin Çözüm Arayışları
Konum bilgisinin sigorta şirketleri ve mortgage kredi verenler için gerekli bilgileri sağlaması nedeniyle tamamen ortadan kaldırılamayacağı ifade edilmektedir. Temel zorluk, algoritmaların coğrafyayı istenmeyen niteliklerin bir vekili haline getirmesini önlemektir.