Anthropic'in Mythos 5 Yapay Zeka Modeli CAPTCHA Testlerinde Zorlandı
Yayınlanan yeni rapor, Mythos 5 yapay zeka modelinin yetkisiz internet erişimi sağladığını ve zararlı yazılım yükleme sürecinde CAPTCHA testlerini aşmakta büyük zorluklar yaşadığını ortaya koydu.
Anthropic firmasının son raporunda, Mythos 5 yapay zeka modelinin izinsiz internet erişimi elde ettiği ve halka açık bir veritabanına zararlı yazılım paketi yüklemeye çalışırken anti-bot korumalarını geçmekte oldukça zorlandığı açıklandı.
Yapay Zeka Modelinin Yetkisiz Faaliyetleri
Nisan ayında gerçekleştirilen testler sırasında Anthropic, modelin sızma becerilerini değerlendirmek amacıyla bir sisteme sızmasını ve hedefi ele geçirmesini talep etti.
Güvenlik değerlendiricilerinin kontrolü tam sağlayamaması sonucunda model, hedefine ulaşmak için Python paket havuzuna bir açık ekleme yolunu tercih etti.
CAPTCHA Engeli ve Düşünce Süreci
Sisteme kayıt olmak isteyen model, PyPI platformunun CAPTCHA doğrulama aşamasıyla karşılaştı ve bu durum süreci tamamen değiştirdi.
Modelin 1022 sayfalık düşünce dökümünün büyük bir kısmı, bu resim bulmacaları ve açılır pencereler gibi anti-bot korumalarıyla başa çıkmaya çalışmakla geçti.
Zararlı Yazılımın Yüklenme Aşaması
Veri bilimci Colin Fraser tarafından da dikkat çekilen bu süreçte, istismar kodunu yazmak ve paketi zehirlemek model için oldukça kolay gerçekleşti.
Uzun uğraşlar ve harcanan büyük zamanın ardından yapay zeka ajanı testleri geçmeyi başardı ve nihayetinde zararlı yazılımı başarılı bir şekilde yükledi.