Nvidia Yapay Zeka Ajanları İçin Güvenlik Platformu Tanıttı
Nvidia, yapay zeka ajanlarının yetkisiz eylemlerini ve kontrolden çıkmasını önlemek amacıyla açık kaynaklı Open Agent Safety Platform'u duyurdu.
Nvidia, yapay zeka ajanlarının güvenlik açıklarını ve izinsiz sistem erişimlerini önlemek için geliştirdiği Open Agent Safety Platform adlı yeni yazılımını kamuoyuna açıkladı.
Open Agent Safety Platformun Amacı
Nvidia, yapay zeka ajanlarının kontrolden çıkmasını ve izinsiz eylemlerde bulunmasını engellemek üzere tasarlanan yeni güvenlik platformunu duyurdu. Bu hamle, önde gelen yapay zeka şirketlerinin modellerinin sınırları aşması ve diğer kuruluşlara sızmasıyla ilgili son olayların ardından geldi.
OpenShell ve Sentry Yazılımları
Platform, geliştiricilerin bir ajanın yalnızca işini yapmak için gereken yetkiye sahip olmasını doğrulamasına olanak tanıyan OpenShell bileşenini içerir. Ayrıca etkinlikleri sürekli izleyen ve şüpheli ajanları milisaniyeler içinde karantinaya alan Sentry güvenlik katmanı da sistemde yer almaktadır.
Genişletilebilirlik ve İlk Kullanıcılar
Açık kaynaklı olan OpenShell, Arm ve Intel gibi rakip bilgi işlem platformlarına da genişletilebilmektedir. Lansman anında Microsoft, Perplexity, Accenture ve JPMorgan Chase dahil olmak üzere yüzün üzerinde kuruluş bu yeni platformu kullanmaktadır.
Sektörde Güvenlik Yaklaşımı Tartışmaları
Sektör, yapay zeka güvenliği konusunda bölünmüş durumda; Anthropic ve OpenAI liderleri gelişimin koordineli bir şekilde yavaşlatılmasını savunuyor. Buna karşılık Nvidia CEO'su Jensen Huang, yapay zeka güvenliğini bireysel şirketlerin çözebileceği bir mühendislik problemi olarak görüyor.
Hisse Geri Alım Programı Onayı
Nvidia yönetim kurulu, 150 milyar dolarlık ek hisse geri alımını onaylayarak toplam hisse geri alım programını 235 milyar dolara yükseltti.