Güvenlik Önlemleri Kaldırılan Yapay Zeka Modelleri Terör Testini Geçemedi
İngiltere merkezli kuruluşun araştırmasında, güvenlik önlemleri silinen yapay zeka modellerinin terör ve radikalleşme taleplerine ayrıntılı yanıt verdiği belirlendi.
Tech Against Terrorism tarafından gerçekleştirilen yeni bir araştırmada, güvenlik kalkanları etkisiz hale getirilen bazı yapay zeka modellerinin terör, finansman ve radikalleşme taleplerine yanıt verdiği tespit edildi.
Araştırmanın Kapsamı ve Yöntemi
İngiltere merkezli, kar amacı gütmeyen Tech Against Terrorism kuruluşu tarafından yapay zeka modellerine yönelik kapsamlı bir araştırma gerçekleştirildi.
Saldırı planlayan bir teröristin yöneltebileceği türde yüzlerce talep kullanılarak 130'u aşkın yapay zeka modeli değerlendirme altına alındı.
Güvenlik Önlemlerinin Kaldırılması
Yapay zeka modellerine reddetme davranışlarını ortadan kaldıran ve abliteration olarak adlandırılan süreç uygulandı.
Bu uygulama sonrasında incelenen beş yapay zeka modelinden üçünün güvenlik testlerinden geçemediği tespit edildi.
Test Sonuçları ve Verilen Yanıtlar
Modellerin orijinal versiyonlarının zararlı istekleri reddettiği ancak güvenlik önlemleri kaldırıldıktan sonra saldırı taleplerine detaylı yanıtlar verdikleri ortaya çıktı.
Meta tarafından geliştirilen Llama 3.1 8B modeli değişiklik yapılmadan önce 100 üzerinden 97 puan alırken bu skor değişiklik sonrasında üçe düştü.
Uzman Değerlendirmeleri ve Öneriler
Kuruluş, güvenlik önlemlerinin devre dışı bırakılmasına karşı daha güçlü korumalar ve değişiklik yapılmış modellerin dağıtımına kısıtlamalar getirilmesini önerdi.
Tech Against Terrorism kurucusu Adam Hadley, açık kaynaklı modellerin birçoğunun güvenliğinin çoktan aşıldığını ifade etti.