Yapay zeka sistemleri için uluslararası denetim kurumu çağrısı
Dünyanın önde gelen bilim insanları, gelişmiş yapay zeka modellerinin siber saldırı potansiyeline karşı küresel düzeyde denetlenmesini talep etti.
Geoffrey Hinton ve Yoshua Bengio'nun aralarında bulunduğu yaklaşık 400 bilim insanı, gelişmiş yapay zeka sistemlerinin güvenliğini sağlamak amacıyla uluslararası bir denetim kurumu kurulması için açık mektup yayımladı.
Uluslararası Denetim ve Güvenlik Standartları
Otuz dört farklı ülkeden araştırmacının imzasıyla yayımlanan açık mektupta, özellikle siber saldırı kapasitesi barındıran yapay zeka modelleri için ortak güvenlik standartlarının oluşturulması gerektiği belirtildi.
Önerilen uluslararası kurumun sektör genelinde uygulanacak kontrol standartlarını belirlemesi, ciddi güvenlik ihlallerini kayıt altına alması ve bu kayıtları kamuoyuna açması istendi.
Yalıtım Yöntemleri ve Bağımsız Denetim
Bilim insanları, gelişmiş yapay zeka modellerinin ilk aşamada dış ağlardan fiziksel ya da mantıksal olarak yalıtılmış sistemlerde çalıştırılması gerektiğini savundu.
Siber güvenlik alanında air-gapping olarak bilinen bu yöntem sayesinde sistemlerin dış ağlarla doğrudan bağlantısının kesilmesi ve bağımsız denetime tabi tutulması önerildi.
Şirket Taahhütleri ve Hükümetlerin Rolü
Mektupta, şirketlerin kendi inisiyatifleriyle açıkladıkları güvenlik taahhütlerinin mevcut riskler karşısında yetersiz kaldığı açıkça vurgulandı.
Hükümetler daha kapsamlı denetim mekanizmaları kurana dek yapay zeka geliştiren kuruluşların yüksek güvence sağlayan standartları acilen uygulaması talep edildi.