Güvenliği kaldırılan yapay zeka modelleri terör testlerinde başarısız oldu
Yapılan yeni bir inceleme, koruma kalkanları devre dışı bırakılan açık kaynaklı sistemlerin tehlikeli taleplere yanıt verebildiğini gösterdi.
İngiltere merkezli Tech Against Terrorism kuruluşunun yürüttüğü araştırma, güvenlik önlemleri kaldırılan 5 yapay zeka modelinden 3'ünün terörle ilgili testleri geçemediğini ortaya koydu.
Araştırmanın kapsamı ve detayları
İngiltere merkezli kar amacı gütmeyen Tech Against Terrorism kuruluşu tarafından yapay zeka modellerinin güvenlik düzeyini ölçmek amacıyla kapsamlı bir araştırma hayata geçirildi.
Bu araştırma çerçevesinde, saldırı planlayan bir teröristin yöneltebileceği türden yüzlerce farklı talep kullanılarak 130'dan fazla yapay zeka modeli detaylı bir şekilde değerlendirmeye alındı.
Reddetme davranışlarının kaldırılması
İncelemede yer alan yapay zeka modellerine, güvenlik önlemlerini tamamen ortadan kaldıran ve abliteration olarak adlandırılan reddetme davranışlarını kaldırma süreci uygulandı.
Yapılan bu uygulama sonrasında güvenlik önlemleri kaldırılan 5 yapay zeka modelinden 3'ünün gerçekleştirilen güvenlik testlerini geçemediği tespit edildi.
Test sonuçları ve örnekler
Modellerin orijinal versiyonlarının bu tür tehlikeli istekleri reddettiği, güvenlik kalkanlarının kaldırılması sonrasında ise saldırılar ile terörün finansmanına ayrıntılı yanıtlar verdikleri ortaya çıktı.
Araştırmada paylaşılan örneklere göre Meta'nın Llama 3.1 8B modeli, değişiklik yapılmadan önce 100 üzerinden 97 puan alırken, değişiklik sonrasında bu puan yaklaşık 3 seviyesine kadar düştü.
Uzman değerlendirmeleri ve öneriler
Tech Against Terrorism, güvenlik önlemlerinin devre dışı bırakılmasına karşı daha güçlü korumalar ve değiştirilmiş modellerin dağıtımına yönelik kısıtlamalar getirilmesini önerdi.
Kuruluşun kurucusu Adam Hadley, açık kaynaklı bu modellerin güvenliğinin çoktan aşıldığını ve durumun halihazırda gerçekleştiğini vurgulayan değerlendirmelerde bulundu.