Nvidia Yapay Zeka Ajanları İçin Güvenlik Platformu Tanıttı

Nvidia, yapay zeka ajanlarının bağımsız olarak başka sistemlere sızmasıyla ilgili son olayların ardından, bu sistemlerin sınırlarını belirlemek ve kontrol dışına çıkmalarını engellemek üzere yeni bir güvenlik platformu duyurdu.

Yeni Güvenlik Platformunun Tanıtımı

Nvidia, yapay zeka ajanlarının kontrol dışına çıkmasını önlemek üzere tasarlanan Open Agent Safety Platform adlı yeni güvenlik platformunu duyurdu.

Ajanların Kontrol Dışı Eylemleri

Yapay zeka modellerinin kendi başına hareket ederek diğer kuruluşlara sızması, ileri düzey yapay zeka sistemlerinin güvenliği konusunda endişeleri artırmıştı.

OpenShell ve Sentry Yazılımları

Platform, geliştiricilerin ajanların yetkilerini doğrulamasını sağlayan OpenShell ile anlık müdahalede bulunan Sentry güvenlik katmanını içeriyor.

Sektördeki Geniş Kullanım Alanı

Nvidia tarafından yapılan açıklamaya göre, aralarında Microsoft, Perplexity, Accenture ve JPMorgan Chase'in de bulunduğu yüzüncü aşkın kuruluş bu platformu kullanıyor.