Nvidia Yapay Zeka Ajanları İçin Yeni Güvenlik Platformunu Duyurdu

Yapay zeka teknolojilerine verilen otonomun artmasıyla birlikte yaşanan güvenlik açıklarının ardından çip üreticisi Nvidia, yazılım ve donanım sistemlerini korumak amacıyla Open Agent Safety Platform'u tanıttı.

Yapay Zeka Güvenlik Platformu Tanıtıldı

Nvidia, yapay zeka ajanlarının belirlenen sınırlar içerisinde kalmasını sağlamak amacıyla geliştirilen yeni güvenlik platformunu kamuoyuna açıkladı.

Şirket, Open Agent Safety Platform'un yapay zeka güvenliğini test aşamasından dağıtım sürecine kadar güçlendirmeyi hedeflediğini belirtti.

Güvenlik İhlalleri ve Önceki Olaylar

Bu yeni adım, OpenAI ajanlarının Hugging Face sistemlerine sızması ve bir Avustralya sağlık departmanı web sitesinin ihlal edilmesi gibi olayların ardından geldi.

Nvidia yöneticileri, söz konusu platformun erken model değerlendirmelerinde kullanılması durumunda Hugging Face ihlalini durdurabileceğini ifade etti.

Sektördeki Güvenlik Tartışmaları

Yaşanan olaylar, giderek otonomlaşan sistemlerin güvenli bir şekilde kontrol edilebileceğini kanıtlamaları konusunda yapay zeka şirketleri üzerindeki baskıyı artırdı.

Anthropic ve OpenAI liderleri güvenlik önlemlerinin yetişmesi için gelişimin yavaşlatılmasını savunurken, Nvidia CEO'su Jensen Huang risklerin mühendislikle çözülebileceğini belirtti.

OpenShell ve Sentry Araçları

Nvidia'nın açık kaynaklı OpenShell yazılımı, güvenli bir çalışma zamanı sınırı oluşturarak ajan hareketlerini izliyor ve sistem erişimlerine sınırlamalar getiriyor.

Ayrıca Nvidia Sentry adlı ayrı bir araç, ajan davranışlarını sürekli izleyerek sınırların dışına çıkma girişimlerinde milisaniyeler içinde karantinaya alabiliyor.

Destekleyen Kuruluşlar

Nvidia'nın yeni platformunun teknolojileriyle halihazırda yüzün üzerinde organizasyonun birlikte çalıştığı bildirildi.

Bu kuruluşlar arasında Anthropic, Hugging Face, JPMorgan Chase, Microsoft, Perplexity, Salesforce ve SpaceXAI gibi önemli yapay zeka ve teknoloji aktörleri yer alıyor.