Anthropic Yapay Zeka Modellerinin Kötüye Kullanımını Engellediğini Açıkladı
Şirket, yapay zeka modellerinin siber saldırılar ve biyolojik silah araştırmaları gibi zararlı amaçlarla kullanım girişimlerini engellediğini duyurdu.
Anthropic, yapay zeka modellerinin kötü niyetli kişiler tarafından siber saldırılar ve biyolojik silah araştırmaları gibi faaliyetler için kullanılma girişimlerini engellediğini açıkladı.
Yapay Zeka Güvenliği ve Engellenen Girişimler
Anthropic, yapay zeka modellerinin kötü niyetli aktörler tarafından siber saldırılar, gözetim faaliyetleri ve biyolojik silah üretebilecek araştırmalar için kullanılma girişimlerini başarıyla engellediğini duyurdu. Yapay zeka modelleri daha güçlü hale geldikçe, karmaşık siber saldırılar artık özel uzmanlık gerektirmiyor ve bireyler dahi geçmişte mümkün olmayan tehditler oluşturabiliyor.
Tespit Edilen Kötüye Kullanım Vakaları
Aralık 2025 ile Ağustos 2026 tarihleri arasında şirket araştırmacıları, casus yazılım satıcıları, siyasi motivasyonlu kişiler ve devlet destekli dezenformasyon gruplarının faaliyetlerini tespit etti. İsimsiz bazı aktörlerin chikungunya virüsü üzerinde bağışıklık kaçağı ve bulaşıcılığı artırmaya yönelik kazanç fonksiyonu araştırması için hibe başvurusu desteği talep ettiği ve bu isteğin sistemler tarafından engellendiği belirtildi.
Gelecek Önlemleri ve Sektör İş Birliği
Bu rapor, yapay zeka geliştirme süreçlerindeki güvenlik endişelerine dikkat çekerek istifa eden bir araştırmacının ardından yayımlandı. Anthropic, daha eski modellerin gelişmiş biyolojik araştırmalara karşı daha az kısıtlamaya sahip olduğunu, ancak yeni modellerin sağlam korumalara sahip bulunduğunu vurguladı.