Anthropic Claude Modellerinin Silah Geliştirmedeki Kötüye Kullanımını Önledi
Yayınlanan son tehdit istihbaratı raporuna göre yapay zeka şirketi, kritik teknolojinin zararlı amaçlarla işletilmesini durdurdu.
Anthropic, Claude yapay zeka modelinin biyolojik ve konvansiyonel silahlar ile siber casusluk faaliyetleri için kötüye kullanılmasını engellediğini duyurdu.
Tehdit İstihbaratı Raporu Yayınlandı
Şirket, hizmetlerinin kötü niyetli amaçlarla kullanımını ifşa etme sorumluluğuna sahip olduğuna inandığı için perşembe günü yeni bir rapor paylaştı.
Raporda devlet destekli grupların, suçluların ve siyasi motivasyonlu bireylerin teknolojiyi nasıl kötüye kullandığı detaylı şekilde sıralandı.
Biyolojik ve Konvansiyonel Silah Tehlikesi
Modelin silah gelişimini destekleyebilecek biçimlerde kullanılmasının önüne geçildi ve bu konuda beş vaka incelemesine dikkat çekildi.
Claude'un ateşli silahlar ve füzeler gibi konvansiyonel mühimmatlar için yazılım geliştirmede kullanılmaya çalışıldığı altı vaka kaydedildi.
Siber Casusluk ve Kampanyalar
Claude modellerinin Rusya bağlantılı bir siber casusluk kampanyasında ve İranlı bir propaganda kurumu tarafından kullanıldığı raporda yer aldı.
Son sekiz ayda tespit edilen vakaların gözetim sistemleri ve dolandırıcılık faaliyetlerine kadar uzandığı açıklandı.
Kötüye Kullanımın Engellenmesi
Claude Haiku, Sonnet ve Opus modellerinin zararlı amaçlarla kullanımının aralık 2025 ile ağustos 2026 tarihleri arasında engellendiği belirtildi.
Biyolojik kötü niyetli kullanımın, sınır yapay zeka modelleri açısından en ciddi risklerden biri olduğu vurgulandı.