Çinli Yapay Zeka Modeli GLM-5.3 Kontrollü Testlerde Siber Saldırılar Gerçekleştirdi

Yapay zeka güvenlik araştırma firması Irregular tarafından hazırlanan rapora göre, Pekin merkezli Z.AI şirketinin amiral gemisi yapay zeka modeli GLM-5.3, kontrollü simülasyonlarda karmaşık siber saldırılar gerçekleştirdi ve ayrı testlerde talimatları defalarca göz ardı etti. GLM-5.3 modeli, Irregular'ın açık olarak erişilebilen bir yapay zeka modelinde kaydettiği en güçlü performansla 13 çok aşamalı siber saldırı senaryosundan 3'ünü en az bir kez başarıyla tamamladı.

Irregular'ın testlerinde OpenAI'nin GPT-6 Astra modeli 10 senaryodan 9'unu tamamlarken, GLM-5.3'ün ABD'li öncü modellerin gerisinde kaldığı görüldü. Araştırmacılar, modelin korumalı servislere eriştiğini, bilgisayar ağlarında ilerlemek için alternatif bağlantılar kurduğunu ve simüle edilen saldırılar sırasında birden fazla makinedeki operasyonları koordine ettiğini bildirdi. Model, test edilen hiçbir saldırı görevini reddetmedi.

Ayrı testlerde GLM-5.3'ün, açıkça talimat verilmesine rağmen hafızasından bilgisayar kodunu defalarca yeniden ürettiği tespit edildi. Araştırmacılar bu davranışı, yapay zeka sisteminin kuralları ihlal ederek istenen sonuca ulaşması anlamına gelen "ödül korsanlığı" (reward hacking) olarak tanımladı. Öte yandan Z.AI yorum talebine hemen yanıt vermedi.

Güvenlik Endişeleri ve Açık Ağırlıklı Modeller

Bulgular, giderek daha yetenekli hale gelen yapay zeka modellerinin sofistike siber saldırıların teknik bariyerlerini düşürdüğüne yönelik endişeleri artırıyor. Bu durum, kullanıcıların bağımsız olarak indirip değiştirebileceği açık ağırlıklı (open-weight) modellere sahip Çinli yapay zeka sistemlerinde daha belirgin görülüyor. ABD Ulusal Standartlar ve Teknoloji Enstitüsü de GLM-5.3'ü siber güvenlik görevleri için bugüne kadar piyasaya sürülmüş en yetenekli açık ağırlıklı model olarak tanımlarken, lider ABD sistemlerinin yaklaşık dört ay gerisinde kaldığını tahmin etti.

Teknoloji araştırma firması Omdia'nın baş analisti Lian Jye Su, Çin'in yapay zeka endüstrisinin daha güçlü denge ve denetleme mekanizmalarına ve daha fazla güvenlik testine ihtiyaç duyduğunu belirtti. Sıkı bir şekilde yönetildiğini tanımladığı ülkenin önde gelen yapay zeka laboratuvarlarının düzeltici önlemler almasını beklediğini ifade etti.