Anthropic Yapay Zeka Modellerinin Kötüye Kullanımını Engellediğini Açıkladı
Anthropic, yapay zeka modellerinin siber saldırılar, gözetim ve biyolojik silah araştırmaları gibi zararlı amaçlarla kullanımını engellediğini duyurdu.
Yapay zeka şirketi Anthropic, kötü niyetli kişilerin modellerini siber saldırılar, gözetim faaliyetleri ve biyolojik silah üretimine destek olabilecek araştırmalar için kullanma çabalarını engellediğini duyurdu.
Yapay Zeka Modellerindeki Riskler
Yapay zeka modellerinin daha güçlü hale gelmesiyle birlikte, ayrıntılı siber saldırılar artık gelişmiş beceriler gerektirmiyor ve bireyler bile geçmişte mümkün olmayan tehditler oluşturabiliyor.
Şirket, silah yapımında da kullanılabilecek biyolojik araştırmaları kısıtlamak amacıyla en son modellerinde daha güçlü güvenlik önlemleri aldığını belirtti.
Kötü Amaçlı Faaliyetlerin Tespiti
Aralık 2025 ile Ağustos 2026 arasında Anthropic araştırmacıları, casus yazılım satıcılarından siyasi motivasyonlu kişilere ve propaganda yayan devlet destekli gruplara kadar pek çok kötü niyetli kullanım tespit etti.
İsimsiz aktörlerin, chikungunya virüsünün bulaşıcılığı ve bağışıklık sisteminden kaçış özelliklerini artırmayı amaçlayan kazanç-fonksiyonu araştırmaları için modelleri kullanmaya çalıştığı belirlendi.
Engellenen Girişimler ve Önlemler
Anthropic, Claude adlı yapay zeka modelinden bu tür araştırmalar için bir hibe başvurusunun yazılmasında yardım istenmesine yönelik bir talebi başarılı bir şekilde engellediğini bildirdi.
Şirket, tespit edilen tüm kötü amaçlı faaliyetlerin engellendiğini ve elde edilen bilgilerin resmi makamlar ile endüstri ortaklarıyla paylaşıldığını vurguladı.