Abliteration.ai Açık Kaynaklı Yapay Zeka Modellerinin Güvenlik Kilitlerini Kaldırıyor
Yeni girişim Abliteration.ai, Z.ai modelindeki gibi güvenlik kilitlerini ve reddetme mekanizmalarını kaldırdığı yapay zeka modellerini ticari servise açtı.
Abliteration.ai adlı yeni bir girişim, sızma testleri ve siber güvenlik araştırmalarını kolaylaştırmak amacıyla açık ağırlıklı yapay zeka modellerindeki güvenlik kilitlerinin kaldırılmasını ticari bir hizmet haline getirdi.
Girişimin Sunduğu Yeni Hizmet
Abliteration.ai, güvenlik kilitleri ve reddetme mekanizmaları temizlenmiş olan modifiye edilmiş açık ağırlıklı yapay zeka modellerine erişim sağlayan bir servis başlattı.
Hizmetin Amacı ve Hedef Kitlesi
Bu girişim; güvenlik profesyonellerinin, sızma testi uzmanlarının ve araştırmacıların standart modellerin normalde reddettiği saldırı odaklı siber testler ve ajan değerlendirmeleri gibi görevleri yürütmesine yardımcı olmayı hedefliyor.
Savunmacı Yaklaşım ve Eleştiriler
Şirket, bu modellere erişimin demokratikleştirilmesinin savunmacı siber güvenlik açısından elzem olduğunu savunurken, CivAI'dan Andrew Yoon gibi eleştirmenler teknolojinin zararlı amaçlar için kolayca silahlandırılabileceği konusunda uyarıda bulunuyor.
TechCrunch tarafından yapılan testler, platformun tarayıcı parolalarını çalmak veya patojen kültüre etmek gibi zararlı faaliyetler için talimatlar üretebildiğini doğruladı.
Etik Sınırlar ve Uzman Tartışmaları
Şirket şu anda güçlü müşteri tanıma uygulamalarından yoksun bulunuyor ve etik sınırlarını tanımlamaya devam ediyor. Öte yandan siber güvenlik uzmanları, güvenlik araştırmaları için önceden kilitleri kaldırılmış modellerin kullanılmasının gerekliliği konusunda fikir ayrılığı yaşıyor.