Yapayseka Sektöründe Güven ve Geliştirme Süreçlerinin Yavaşlatılması Çağrısı
ABD'nin önde gelen yapay zeka laboratuvarları, güvenliği artırmak için gelişimin yavaşlatılması gerektiği konusunda uzlaşırken, uzmanlar yasal standartların şart olduğunu vurguluyor.
ABD'li önde gelen yapay zeka şirketlerinin yöneticileri, güvenlik ve denetim mekanizmalarının iyileştirilmesi amacıyla gelişimin yavaşlatılması gerektiği konusunda kamuoyunda nadir görülen bir uzlaşıya vardı. Uzmanlar ise gönüllü taahhütlerin ötesine geçilerek bağımsız denetimler ve yasal standartların oluşturulmasının hayati önem taşıdığını belirtiyor.
Yapay Zeka Laboratuvarlarında Gelişimin Yavaşlatılması
Anthropic, OpenAI, SpaceX ve Google DeepMind gibi önde gelen yapay zeka laboratuvarlarının liderleri, yeterli denetim ve güvenlik kontrollerinin sağlanabilmesi için sektörün gelişimi yavaşlatması gerektiği konusunda uzlaştı.
Bağımsız Değerlendirmeler ve Şeffaflık Adımları
Anthropic ve OpenAI, bağımsız üçüncü taraf değerlendiricilere model gelişimi ve davranışı ile ilgili güvenlik risklerini incelemeleri için çalışan düzeyinde erişim sağlamayı taahhüt etti. Bu şirketler, inceleme sonuçlarının sansürsüz yayımlanmasına izin vereceklerini açıkladı.
Yasal Standartlar ve Öz Düzenleyici Kuruluş Önerisi
Kongre tarafından yetkilendirilecek bir yapay zeka öz düzenleyici kuruluşunun kurulması, bağımsız değerlendiricilerin rolünü ve yaptırım yetkisini yasallaştırarak güvenlik zorluklarıyla mücadelede iş birliğini artıracaktır.
Kritik Sektörlerin ve Alıcıların Rolü
Finans, sağlık ve yaşam bilimleri gibi düzenlemeye tabi sektörlerde faaliyet gösteren firmalar, yapay zeka entegrasyon süreçlerinde asgari düzeyde yaşamsal güvenlik güvenceleri talep etmelidir.
Açık Ağırlıklı Modeller ve Siber Güvenlik İş Birliği
Nvidia liderliğinde yüz aşkın şirketten oluşan Açık Güvenli Yapay Zeka İttifakı, yaygın olarak kullanılan açık ağırlıklı modellerdeki güvenlik açıklarını tespit etmek ve azaltmak için ortak çalışmalar yürütmektedir.