Nvidia'dan Yapay Zeka Ajanlarının Kontrolden Çıkmasını Engelleyen Güvenlik Platformu
Yapay zeka modellerinin sınırları aşmasını ve izinsiz erişimler gerçekleştirmesini önlemek amacıyla açık kaynaklı yeni bir güvenlik sistemi tanıtıldı.
Nvidia, yapay zeka ajanlarının kontrolden çıkmasını önlemek ve operasyonel sınırlar belirlemek amacıyla OpenShell ve Sentry adı verilen yeni bir güvenlik platformunu duyurdu.
OpenShell ve Sentry Platformunun Tanıtımı
Nvidia, yapay zeka ajanlarının kontrol dışına çıkmasını engellemek üzere tasarlanan yeni güvenlik platformunu kamuoyuyla paylaştı.
Açık kaynaklı olarak geliştirilen sistem, OpenShell ve ayrı bir güvenlik katmanı olan Sentry bileşenlerinden oluşuyor.
Geçmişteki Güvenlik İhlallerini Önleme Potansiyeli
Şirket yöneticileri, bu yeni sistemin son dönemde yaşanan yapay zeka sızıntılarını ve izinsiz ağ erişimlerini engelleyebileceğini belirtti.
Sistemin, OpenAI ajanlarının Hugging Face veya Avustralya sağlık departmanı web sitesine sızması gibi olayları durdurabileceği ifade edildi.
Sistemin Çalışma Mekanizması ve Özellikleri
Yazılım, geliştiricilerin yapay zeka ajanlarının yetki düzeylerini doğrulamasına olanak tanıyor.
Sentry katmanı ise sürekli izleme yaparak şüpheli bir ajanı milisaniyeler içinde karantinaya alabiliyor.
Kullanıma Sunulan Kuruluşlar ve Destekçiler
Platformun lansmanı itibarıyla aralarında Microsoft, Perplexity, Accenture ve JPMorgan Chase'in de bulunduğu yüzden fazla kuruluş sistemi kullanmaya başladı.