Anthropic Raporu: Claude Yapay Zeka Modellerinin Kötüye Kullanımı

Yapay zeka şirketi Anthropic, yayımladığı yeni bir tehdit istihbaratı raporunda, Claude modellerinin silah geliştirme, siber operasyonlar, casusluk, biyolojik araştırmalar ve dolandırıcılık gibi çeşitli alanlarda kötüye kullanıldığını duyurdu.

Geleneksel Silah ve Savunma Projeleri

Anthropic'in raporuna göre, Çin bağlantılı bazı aktörler hava savunma bastırma yazılımları, anti-torpedo sistemleri ve mikrodalga silah araştırmaları için Claude modellerini kullandı.

Kuzey Yemen'deki tehdit aktörleri ise güdümlü roket ve hipersonik planör araç içeren füze projelerinde kodlama, simülasyon ve sorun giderme amacıyla yapay zekadan yararlandı.

Biyolojik Araştırmalar ve Riskler

Şirket, kullanıcıların chikungunya virüsü, kuş gribi, ortopoksvirus ve benzeri biyolojik tehditlerle ilgili araştırmaları desteklemek amacıyla modelleri kullanma girişiminde bulunduğunu detaylı olarak aktardı.

Siber Operasyonlar ve İstihbarat

Çin merkezli operatörlerin yabancı devlet ağlarına yönelik siber saldırılarda güvenlik açığı aramak için yapay zeka iş akışlarından faydalandığı belirtildi.

Rusya bağlantılı Midnight Blizzard grubu ise Ukrayna hükümetine karşı oltalama ve kimlik avı operasyonlarında yapay zekayı süreçlere dahil etti.

Gözetim ve Siyasi Hedef Alma

Çin ile bağlantılı aktörlerin azınlık gruplarını, dini liderleri ve siyasi muhalifleri izlemek amacıyla Claude'u gözetim raporları derlemek için kullandığı raporda yer aldı.

İran bağlantılı grupların ise ABD deniz kuvvetleri ve İsrailli hedef listeleri için açık kaynak istihbarat profilleme sistemleri oluşturduğu tespit edildi.

Dolandırıcılık ve Kampanya Faaliyetleri

Çin tabanlı bir operasyonda binden fazla sahte yapay zeka kişiliğine sahip çöpçatanlık uygulamaları geliştirilerek binlerce kullanıcının hedeflendiği ifade edildi.

Fransızca konuşan bir aktörün ise Avrupa'daki siyasi partileri ve düşünce kuruluşlarını hedef alarak veri ve kimlik bilgisi toplama platformu oluşturduğu gözlemlendi.