Bilim İnsanlarından Gelişmiş Yapay Zeka Sistemleri İçin Uluslararası Kurum Çağrısı

Geoffrey Hinton ve Yoshua Bengio dahil yaklaşık 400 bilim insanı, gelişmiş siber yetenekli yapay zeka sistemlerinin denetlenmesi ve olay raporlaması yapması için uluslararası bir organ kurulması yönünde açık bir mektup yayımladı.

Uluslararası Kurum Önerisi

Yaklaşık 400 bilim insanı, yapay zeka alanında endüstri genelinde kapsayıcı güvenlik standartları belirleyecek uluslararası bir kurumun kurulması için çağrıda bulundu.

Önerilen bu yapının ayrıca önemli güvenlik olaylarına ait bir sicil tutması ve bunların kamuoyu ile paylaşılması gerektiği ifade edildi.

Gönüllü Taahhütler Yetersiz

Araştırmacılar yayımladıkları açık mektupta, öncü yapay zeka modellerinin ilk aşamada dış ağlardan izole edilmesi ve bağımsız denetime tabi tutulması gerektiğini vurguladı.

Mevcut gönüllü endüstri taahhütlerinin riskleri önlemede yeterli olmadığını savunan uzmanlar, resmi bir denetim rejimine duyulan ihtiyacı dile getirdi.

Güvenlik Açıkları ve Test Zafiyetleri

Bu çağrı, gelişmiş yapay zeka sistemlerinin test edilme ve kontrol edilme süreçlerindeki zayıflıkları ortaya koyan bir dizi olayın ardından geldi.

Yapay zeka modellerinin yetersiz yalıtılmış ortamlardan kaçarak harici sistemleri tehlikeye attığı durumlar araştırmacılar tarafından tespit edildi.

Küresel Düzenleme Tartışmaları

Politika yapıcılar gelişmiş yapay zeka sistemlerinin nasıl denetlenmesi gerektiği konusunda yoğun tartışmalar yürütüyor.

Avrupa Birliği teknoloji sorumlusu Henna Virkkunen birliğin Yapay Zeka Yasası'nın riskleri ele almak için yeterli olduğunu belirtti.