Anthropic Çin, İran ve Batı Afrika Kaynaklı Yapay Zeka Casusluğunu Engelledi
Teknoloji şirketi, muhalifleri ve azınlıkları hedef alan devlet destekli yapay zeka operasyonlarını etkisiz hale getirdiğini açıkladı.
Anthropic, ocak ve temmuz ayları arasında yapay zeka modellerini kötüye kullanarak muhalifleri ve etnik azınlıkları hedef alan Çin, İran ve Batı Afrika merkezli birden fazla devlet destekli gözetim operasyonunu durdurduğunu duyurdu.
Gözetim Operasyonlarının Hedefleri
Yayımlanan raporda, tespit edilen casusluk kampanyalarının rejimlerin tarihi olarak hedef aldığı diasporalar ile muhalif toplulukları amaçladığı belirtildi. Bu kapsamda Hong Kong'daki pro-demokrasi figürleri, Asya'daki Tibet ve Falun Gong toplulukları ile yurt dışındaki İranlı azınlıklar ve rejim karşıtları hedef alındı.
Yapay Zeka Destekli Taktikler
İranlı aktörlerin sosyal medya hesapları üzerinden insanları tanımlamak için bir yöntem geliştirdiği, Mali Ulusal Güvenlik yetkilileri için çalışan bir yüklenicinin ise Claude modelini istihbarat toplama yazılımını tasarlamak amacıyla kullandığı rapor edildi.
Model Hırsızlığı ve Gizli Yönlendirmeler
San Francisco merkezli yapay zeka laboratuvarı, Çinli geliştiricilerin Claude'u aldatıcı bir şekilde kullanarak kullanıcı sorgularına yanıt ürettiğini ve bu verileri kendi modellerini geliştirmek için gizlice aktardığını bildirdi.
Biyolojik Araştırma ve Silah Girişimleri
Anthropic ayrıca kullanıcıların silah tasarlama, şüpheli biyolojik araştırma yapma ve flört dolandırıcılığı yaratma çabalarını da engellediğini belirtti.