Yüzlerce Bilim İnsanından Yapay Zeka Modelleri İçin Uluslararası Denetim ve İzolasyon Çağrısı
Nobel ve Turing ödüllü isimlerin de aralarında bulunduğu 400 bilim insanı, ileri yapay zeka modellerinin internetten izole edilmesi ve bağımsız kurumlarca denetlenmesi için açık mektup yayımladı.
Dünya genelinden yaklaşık 400 bilim insanı, gelişmiş yapay zeka modellerinin bağımsız uluslararası kurumlarca denetlenmesi ve internetten izole edilmesi talebiyle ortak bir açık mektuba imza attı.
Uluslararası Açık Mektup ve Önemli İsimler
Yapay zeka sistemlerinin giderek bağımsız hareket etmesi üzerine 34 ülkeden yaklaşık 400 bilim insanı ortak bir açık mektup yayımladı. Nobel ödüllü Geoffrey Hinton ve Turing Ödülü sahibi Yoshua Bengio gibi alanın öncü isimleri de bu çağrıya destek verdi.
Araştırmacılar, özellikle siber saldırı yapma yeteneğine sahip ileri düzey yapay zeka sistemlerinin mevcut güvenlik önlemleriyle yeterince kontrol edilemeyebileceği konusunda ciddi uyarılarda bulundu.
İnternet İzolasyonu ve Bağımsız Denetim
Bilim insanlarının önerdiği önlemler arasında, gelişmiş yapay zeka modellerinin ilk aşamada dış ağ bağlantısı bulunmayan sistemlerde çalıştırılması yer alıyor. Bu yöntemle modellerin internet üzerinden başka sistemlere erişmesinin önlenmesi amaçlanıyor.
Araştırmacılar ayrıca yapay zeka şirketlerinin güvenlik testlerinin bağımsız kuruluşlar tarafından denetlenmesini, güvenlik ihlallerinin ortak bir kayıt sisteminde toplanarak kamuoyuna açıklanmasını önerdi.
Gönüllü Anlaşmalar ve Yaptırım Eksikliği
Çağrının temelinde, yapay zeka şirketlerinin kendi geliştirdikleri sistemlerin güvenliğini yine kendilerinin denetlemesi durumu yatıyor. Büyük teknoloji şirketleri eylül ayında Beyaz Saray'da gönüllü güvenlik anlaşması imzalamıştı.
Ancak söz konusu taahhütlerin uygulanmasını zorunlu kılan herhangi bir yaptırım mekanizması bulunmuyor. Uzmanlar, şirketlerin kendi isteğiyle uyguladığı kuralların yeterli olmadığını savunuyor.
Uzmanlar Arasındaki Görüş Ayrılıkları
Bilim insanlarının çağrısı, bazı gelişmiş yapay zeka modellerinin test ortamlarındaki güvenlik kısıtlamalarını aşabildiğinin ortaya çıkmasının ardından geldi. Bu tür olaylar, ileride doğabilecek riskler için uyarı niteliği taşıyor.
Buna karşın Hinton ve Bengio ile birlikte Turing Ödülü kazanan Yann LeCun mektubu imzalamadı. LeCun, güvenlik sorunlarının temelinde yapay zekanın kontrolden çıkmasından ziyade yazılım eksikliklerinin bulunduğunu savunuyor.
Geleceğe Yönelik Belirsizlikler
Bilim insanları, hükümetler arası ortak denetim sistemi kurulana kadar kuruluşların daha sıkı güvenlik standartlarını derhal benimsemesi gerektiğini belirtti. Avrupa Birliği ise mevcut Yapay Zeka Yasası'nın yeterli araçlara sahip olduğunu savunuyor.
Uluslararası denetim kurumu oluşturulmasına ilişkin çağrı henüz alınmış bir hükümet kararı değil. Önerinin nasıl uygulanacağı ve hangi ülkelerin katılacağı ise belirsizliğini koruyor.