Yapay Zeka Denetçileri ve Bağımsız Değerlendirme Standartları
Kaliforniya ve birçok ülke, yapay zeka sistemlerinin güvenliğini artırmak ve olası riskleri önlemek amacıyla bağımsız denetçiler tarafından zorunlu denetimler yapılmasını savunuyor.
Yapay zeka teknolojilerinin yol açabileceği riskleri azaltmak amacıyla Kaliforniya ve dünya genelinde onlarca ülke, bağımsız yapay zeka değerlendiricileri tarafından zorunlu denetimler yapılmasını gündemine taşıdı.
Kaliforniya'da Yapay Zeka Denetim Yasaları
Vali Gavin Newsom, bağımsız doğrulama kuruluşları için standartlar belirleyen ve bir denetçi sicili oluşturan yasaları imzaladı.
Geçen ay imzalanan bu yasalar, yapay zeka sistemlerinin güvenilirliğini artırmak için atılan önemli adımlar arasında yer alıyor.
Uluslararası Düzeyde Destek ve Çağrılar
Finlandiya Dışişleri Bakanlığı'na göre, bağımsız yapay zeka değerlendirmelerini talep eden uluslararası ortak bildiri yaklaşık 30 ülkeden destek aldı.
Yüzden fazla araştırmacı ve uzman, bağımsız denetçiler için standartlar oluşturulmasını savunan bir mektuba imza attı.
Olası Çıkar Çatışmaları ve Riskler
Bağımsız denetçilerin, ürünlerini denetledikleri teknoloji şirketleriyle sözleşme imzalaması çıkar çatışması riskini beraberinde getiriyor.
Uzmanlar, 2008 finansal krizindeki tahvil derecelendirme sistemine benzer hataların tekrarlanmaması konusunda uyarılarda bulunuyor.
Finansman Modeli Tartışmaları
Şirketlerin denetçilere doğrudan ödeme yapması yerine, fonların ortak bir havuzda toplanması öneriliyor.
Bu fikir, bağımsız denetim sürecinin tarafsızlığını korumak adına Anthropic gibi yapay zeka laboratuvarları tarafından da destekleniyor.