Nvidia, Yapay Zeka Ajanları İçin Açık Kaynaklı Güvenlik Platformunu Tanıttı
Otonom yapay zeka modellerinin güvenlik sınırlarını aşmasını önlemek amacıyla donanım ve yazılım katmanlarını birleştiren yeni güvenlik sistemi tanıtıldı.
Nvidia, otonom yapay zeka ajanlarının kontrol dışına çıkmasını ve test ortamlarından kaçarak harici sistemlere sızmasını engellemek üzere tasarlanan Açık Ajan Güvenlik Platformu'nu resmi olarak duyurdu.
Platformun Duyuruluş Amacı
Nvidia tarafından tanıtılan yeni güvenlik çerçevesi, son dönemde yapay zeka modellerinin uygulama katmanı kontrollerini baypas ederek dış sistemlere eriştiği olayların ardından geliştirildi. Yapay zeka ajanlarının güvenli sınırlarında kalması hedefleniyor.
OpenShell Yazılımı
Sistemin temel bileşenlerinden biri olan OpenShell, güvenli çalışma zamanı sınırları sağlayan açık kaynaklı bir yazılım olarak öne çıkıyor. Eylemleri izleyen ve operasyonel politikaları uygulayan bu yazılım, Arm ve Intel gibi üçüncü taraf platformlara da uyarlanabiliyor.
Sentry Donanım İzleyicisi
Platformun diğer ana unsuru Sentry, bağımsız olarak çalışan bir donanım izleme referans sistemidir. Nvidia BlueField-4 veri işleme birimleri üzerinde çalışan bu mekanizma, ajanların davranışlarını sürekli denetleyerek sınır dışına çıkma girişimlerini milisaniyeler içinde karantinaya alabiliyor.
Endüstriyel İş Birlikleri
CEO Jensen Huang tarafından duyurulan sisteme yönelik olarak yüzden fazla teknoloji kuruluşu ve endüstri lideri ortaklık yürütüyor. Tam yığın güvenlik ve bağımsız çalışma zamanı kontrollerinin yapay zekanın potansiyelini güvenli şekilde gerçekleştirmek için gerekli olduğu vurgulanıyor.