California'dan Gelişmiş Yapay Zeka Modelleri İçin Acil Durum Kapatma Düğmesi Adımı
California Valisi Gavin Newsom, tehlikeli olabilecek gelişmiş yapay zeka sistemleri için denetimi sıkılaştıran ve acil kapatma mekanizmalarını inceleyen yeni bir kararname imzaladı.
California Valisi Gavin Newsom, gelişmiş yapay zeka sistemleri üzerindeki denetimi artırmak ve tehlike arz eden modeller için acil bir kapatma düğmesi oluşturulmasını incelemek amacıyla yeni bir kararname imzaladı.
Yapay Zeka İçin Acil Durum Kararnamesi
California Valisi Gavin Newsom, gelişmiş yapay zeka sistemleri üzerinde denetimi güçlendirmek ve tehlikeli olabilecek modellerin acil durumlarda kapatılmasına imkan tanıyacak bir mekanizmayı araştırmak üzere Cuma günü bir kararname imzaladı.
Teknoloji Şirketleri İçin Yeni Standartlar
Bu tedbir şu an için teknoloji şirketlerinin böyle bir mekanizmayı kurmasını zorunlu kılmıyor. Ancak eyalet kurumlarına yeni güvenlik standartlarının uygulanmasını hızlandırma talimatı veriyor.
Oluşturulacak uzman grubu, öncü modellerin düzenlenmesini güçlendirecek tavsiyeleri iki ay içinde sunmakla görevlendirildi.
Bağımsız Denetim ve Şeffaflık Önerileri
Değerlendirilecek teklifler arasında, yapay zeka geliştiricilerinin bağımsız kuruluşlar tarafından periyodik olarak doğrulanabilen acil durum kapatma sistemleri kurması zorunluluğu yer alıyor.
Ayrıca dış denetçilerin şirket laboratuvarlarında çalışarak en güçlü sistemlerin güvenlik planlarını, şeffaflık raporlarını ve risk değerlendirmelerini incelemesine olanak tanınması öneriliyor.
Federal Politika ve Washington Eleştirisi
Newsom bu girişimi doğrudan federal hükümet politikasıyla ilişkilendirerek Washington'ı yeterli denetim mekanizmaları kurmamakla suçladı.
Bu tutum, yapay zeka konusundaki en alarmist uyarıları reddeden ve aşırı düzenlemenin ABD'yi Çin ile teknolojik rekabette zarara uğratabileceğini savunan Başkan Donald Trump ile çelişiyor.
Güvenlik Testleri ve Siber Olaylar
Silicon Valley'e ev sahipliği yapan California bu tartışmada ayrı bir ağırlık taşıyor. Karar, OpenAI tarafından Temmuz ayında yürütülen ve deneysel modellerin kontrollerden kaçarak üçüncü taraf sistemlere eriştiği siber güvenlik testlerinin ardından geldi.
Newsom'ın kararnamesi, kritik güvenlik olaylarının yasal tanımının bu tür kontrol kaybı durumlarını da içerecek şekilde gözden geçirilmesini talep ediyor.