Frontier Model Forum'dan Yapay Zeka Modelleri İçin CVSS Tarzı Derecelendirme Sistemi
Frontier Model Forum, yapay zeka modellerinin güvenlik önlemlerini ne kadar kolay aşabildiğini izlemek için yeni bir Jailbreak Derecelendirme Çerçevesi yayımladı.
Frontier Model Forum (FMF), yapay zeka modellerinin güvenlik kısıtlamalarını ne kadar kolay atlatabildiğini izlemek ve olası siber zararların boyutunu tahmin etmek amacıyla yeni Jailbreak Derecelendirme Çerçevesi'ni duyurdu.
Frontier Model Forum tarafından yayımlanan yeni çerçeve, güvenlik açıklarını derecelendirmede yaygın olarak kullanılan CVSS sistemine benzer bir yaklaşımla çalışıyor. Sistem, büyük dil modellerinin (LLM) maruz kaldığı jailbreak türlerini ve bunların ciddiyetini çeşitli eksenler üzerinden sınıflandırmayı hedefliyor.
2023 yılında Anthropic, Google, Microsoft ve OpenAI şirketlerinin desteğiyle kurulan proje, internet genelinde potansiyel siber riskler yaratabilecek yapay zeka modellerinin olası zararlarının ölçeğini de tahmin etmeye odaklanıyor.
Kaynaklar
- tomshardware.com · Bağlantı