Yapay Zeka Şirketi Anthropic Biyolojik Silah Risklerine Karşı Önlem Aldı
Anthropic, yapay zeka modellerinin biyolojik silah geliştirme süreçlerinde kötü niyetli kullanımını engellediğini duyurdu.
Yapay zeka şirketi Anthropic, modellerinin biyolojik silah geliştirilmesini destekleyebilecek şekillerde kullanılmasını engellediğini açıkladı. Şirket, bu durumu en ciddi riskler arasında değerlendiriyor.
Biyolojik Silah Riskleri
Anthropic, yayımladığı raporda bilim insanlarının ve aktörlerin yapay zeka modellerini biyolojik silah geliştirme potansiyeli taşıyan şekillerde kullandığı beş vakayı engellediğini belirtti.
İki Uçlu Kılıç Teknolojisi
Şirket, biyolojik silah geliştirilmesinde kullanılan aynı bilginin bir hastalık için aşı veya tedavi bulmak amacıyla da kullanılabileceğine dikkat çekti.
Uzman Görüşleri
Anthropic Tehdit İstihbarat Başkanı Jacob Klein, durumun oldukça incelikli olduğunu belirterek kimsenin doğrudan herkesi öldürmek için silah üretmek istediğini açıkça söylemediğini ifade etti.
Konvansiyonel Silah Vakaları
Raporda ayrıca Claude'un ateşli silahlar, füzeler, silahlı dronlar ve bombalar gibi konvansiyonel silahlar için yazılım geliştirmede kullanıldığı altı vaka tespit edildiği bilgisi yer aldı.