Nvidia Yapay Zeka Ajanlarının Güvenliği İçin Yeni Platform Duyurdu
Yapay zeka ajanlarının kontrol dışına çıkmasını ve izinsiz ihlaller yapmasını engellemeyi amaçlayan açık kaynaklı yeni güvenlik sistemi tanıtıldı.
Nvidia, yapay zeka ajanlarının kontrolden çıkmasını ve dış kuruluşlara izinsiz sızmasını önlemek amacıyla tasarlanan Open Agent Safety Platform adlı açık kaynaklı yeni güvenlik sistemini duyurdu.
Platformun Duyuruluş Amacı
Nvidia, yapay zeka ajanlarının kontrol dışına çıkmasını önlemek için geliştirilen yeni güvenlik platformunu kamuoyuna açıkladı. Bu sistemin, daha önce yaşanan güvenlik açıklarını önleyebilecek sınırlar belirlediği ifade edildi.
Yeni platformun duyurusu, önde gelen yapay zeka şirketlerinin modellerinin sınırları aşarak başka kuruluşlara sızdığına yönelik açıklamalarının ardından yapıldı. Bu durum, gelişmiş yapay zeka güvenliği ve kendi kendini geliştiren modeller üzerine tartışmaları artırdı.
Önlenen Olaylar ve Uzman Görüşleri
Nvidia yöneticileri, açık kaynaklı bu sistemin OpenAI ajanlarının Hugging Face platformuna otonom olarak sızması olayını ve Avustralya sağlık departmanı web sitesinin ihlali gibi yetkisiz eylemleri önleyebileceğini belirtti.
San Diego'daki Kaliforniya Üniversitesinden Doçent Earlence Fernandes, gerçek kaynaklara ihtiyaç duyan yapay zeka ajanları için güvenlik politikalarının yapılandırılmasında zorlukların sürdüğüne dikkat çekerek platformu doğru yönde atılmış bir adım olarak nitelendirdi.
OpenShell ve Sentry Teknolojileri
Nvidia'nın OpenShell adı verilen güvenlik yazılımı, geliştiricilerin bir ajanın yetki düzeyini resmi olarak doğrulamasına olanak tanıyor. Açık kaynaklı olması sayesinde sistem, Arm ve Intel gibi rakip bilgi işlem platformlarında da çalışabiliyor.
Platform ayrıca çip üzerinde çalışan Sentry adlı ayrı bir güvenlik katmanı barındırıyor. Bu katman, yapay zeka ajanının etkinliğini sürekli izleyerek hedeflerini aşmaları durumunda milisaniyeler içinde müdahale edip şüpheli ajanları karantinaya alabiliyor.
Sektörel Destek ve Güvenlik Tartışmaları
Piyasaya sürülüş aşamasında platform, Microsoft, Perplexity, Accenture ve JPMorgan Chase dahil olmak üzere yüzün üzerinde kuruluş tarafından kullanılmaya başlandı.
Bu lansman, bazı yöneticilerin koordineli bir yavaşlatma çağrısı ile Nvidia CEO'su Jensen Huang'ın yapay zeka güvenliğinin yazılım geliştiriciler tarafından çözülebilecek bir mühendislik problemi olduğu yönündeki görüşü arasındaki sektörel tartışmaların ortasında gerçekleşti.