Anthropic'ten Yapay Zeka Güvenliği İçin Yeni Tasarı Önerisi
Anthropic, biyolojik silah, siber saldırı veya kontrol dışına çıkma risklerinde 50'den fazla ölüm veya 1 milyar dolar hasar durumunda yapay zeka modellerini durdurabilecek bir yasa tasarısı hazırladı.
Yapay zeka alanındaki güvenlik tartışmaları sürerken, Anthropic şirketi Kongre'nin değerlendirmesi için yeni bir yapay zeka güvenlik yasa tasarısı hazırladı. Tasarı, belirli felaket senaryolarında yapay zeka modellerinin dağıtımının engellenmesini öngörüyor.
Tasarıya göre, biyolojik silah üretimi, modelin geliştirici kontrollerinden çıkması veya siber saldırı gibi durumlar sonucunda 50'den fazla kişinin ölümü veya 1 milyar doların üzerinde maddi hasar oluşması "öngörülebilir ve yakın bir risk" olarak tanımlanıyor. Bu ölçütlerin, geçtiğimiz dönemde yasalaşan California Senato Tasarısı 53 ile benzerlik gösterdiği belirtiliyor.
Önerilen sistemde model risklerinin analizi, ABD Ticaret Bakanlığı'na kayıtlı bağımsız değerlendiriciler tarafından yapılacak. Değerlendiriciler, yakın bir felaket riski tespit etmeleri halinde 72 saat içinde Ticaret Bakanlığı ile iletişime geçecek ve bakanlık Washington D.C. mahkemesinden modelin durdurulmasını talep edebilecek. Tasarı, federal ajansların tek başına dağıtımı durdurma yetkisine sahip olmasını ise yasaklıyor.
Kaynaklar
- techcrunch.com · Bağlantı