Microsoft ve Nvidia'dan Açık Ağırlıklı Yapay Zeka Modelleri İçin Güvenlik Uyarısı

Microsoft ve Nvidia, açık ağırlıklı yapay zeka modellerinin dağıtımı sırasında güvenlik açıklarının değerlendirilmesi amacıyla ortak bir makale yayımladı. Şirketler, model ağırlıklarındaki ve yapılandırmalarındaki değişikliklerin güvenlik önlemlerini zayıflatabileceği konusunda işletmeleri uyardı.

Geçtiğimiz hafta yayımlanan ortak raporda, beş kategoride 30 risk türü belirlenirken bunların değerlendirilmesi, azaltılması ve izlenmesine yönelik bir süreç açıklandı. Kılavuz, işletmelerin model kökenini doğrulamasını, dağıtmayı amaçladıkları yapılandırmaları test etmesini ve önemli değişikliklerin ardından riskleri yeniden değerlendirmesini öngörüyor. Raporda, ağırlık açıklığının tek başına bir yapay zeka sisteminin riskini belirlemediği, riskin modele, kullanım durumuna, dağıtıma ve korumalara bağlı olduğu vurgulandı.