Anthropic Modellerinin Biyolojik Silah Geliştirilmesinde Kullanıldığı Vakalar Tespit Edildi
Yapay zeka şirketi Anthropic, modellerinin tehlikeli patojenlerin geliştirilmesinde kötüye kullanımını ortaya çıkaran olayları kamuoyuyla paylaştı.
Anthropic, şirket tarafından geliştirilen yapay zeka modellerinin biyolojik silah geliştirilmesini destekleyebilecek şekilde kötüye kullanıldığı belirli vakaları tespit ettiğini duyurdu.
Yapay Zeka ve Biyolojik Riskler
Yapay zeka şirketi Anthropic, teknolojinin kötüye kullanımının tespit edilmesine ve alınan önlemlere dair kapsamlı bir rapor yayımladı.
Yayımlanan raporda, yapay zeka modellerinin taşıdığı en kritik riskler arasında biyolojik kötüye kullanımın yer aldığı vurgulandı.
Patojen Geliştirme Endişeleri
Yapay zekanın mevcut patojenleri daha tehlikeli hale getirme veya yeni patojenler üretme kapasitesine ulaşabileceği endişeleri uzun süredir tartışılıyordu.
Şirket raporunda, modellere yönelik bu tür tehditlerin somut örneklerle ele alındığı belirtildi.
Tespit Edilen Vakalar ve Örnekler
Raporda yer alan örneklerden birinde, desteklenmeyen bir bölgedeki bir araştırmacının Claude'u kuş gribinin memelilere adaptasyon deneyleri için kullanmaya çalıştığı kaydedildi.
Bir diğer örnekte ise devlet destekli bir araştırmacının toksinleri bilgisayar ortamında yeniden tasarladığı tespit edildi.
Alınan Önlemler ve Hesap Engellemeleri
Söz konusu vakaların tespit edilmesinin ardından ilgili tüm kullanıcıların hesaplarının engellendiği açıklandı.
Şirket, gelecekte benzer faaliyetlerin daha etkin bir şekilde engellenmesi amacıyla yeni adımlar atıldığını bildirdi.
Sektör İçin Diyalog ve Şeffaflık Çağrısı
Raporda, vakalardaki kişilerin kötü niyetli olduklarının iddia edilmediği ve yalnızca tedbirli davranıldığına dikkat çekildi.
Bu örneklerin paylaşılmasıyla yapay zeka sektöründe biyolojik risklere karşı en etkili mücadele konusunda diyalog başlatılması umuluyor.