Anthropic yapay zeka modelleri üzerinden biyolojik silah girişimlerini engelledi
Anthropic, gelişmiş modellerinin biyolojik silah üretiminde ve kötü niyetli araştırmalarda kullanılma potansiyeli taşıyan girişimlerini engellediğini duyurdu.
Yapay zeka teknolojileri üzerine çalışmalar yürüten Anthropic şirketi, modellerinin biyolojik silah geliştirme süreçlerinde kötü niyetle kullanılma ihtimaline karşı müdahale ettiğini ve riskli girişimlerin önüne geçildiğini bildirdi.
Biyolojik Silah Risklerine Karşı Müdahale
Yapay zeka şirketi Anthropic, önde gelen modellerinin biyolojik silah geliştirilmesine yardımcı olabilecek araştırmalar yürütmek isteyen kişilerin girişimlerini engellediğini duyurdu.
Şirket tarafından yayımlanan raporda, yürütülen çalışmaların meşru bilimsel araştırmalar mı yoksa kötü niyetli girişimler mi olduğunun kesin olarak ayırt edilemediği vurgulandı.
Çift Kullanımlı Araştırmaların Hassasiyeti
Aşı gibi çığır açan buluşlara kapı aralayabilen çift kullanımlı araştırmalar, aynı zamanda tehlikeli patojenlerin üretilmesi için de suiistimal edilebiliyor.
Anthropic, kötü niyetli eylemlerin gözden kaçırılmasının yaratabileceği ağır sonuçlar nedeniyle güvenlik önlemlerinde son derece temkinli bir tutum izliyor.
Uzmanlardan Gelen Uyarılar ve Değerlendirmeler
Gelişmiş yapay zeka sistemlerinin yeni nesil biyolojik patojenlerin üretimini kolaylaştırma ihtimali, güvenlik uzmanlarının en büyük endişe kaynakları arasında yer alıyor.
Stratejik Riskler Konseyi Kıdemli Üyesi Andrew Weber, yaşanan bu durumun devlet destekli geliştiricilerin yapay zeka kabiliyetlerini suiistimal etme çabasının ürkütücü kanıtı olduğunu belirtti.
Claude Sohbet Robotunun Kötüye Kullanımı
Anthropic'in yayımladığı kapsamlı rapor, Claude adlı yapay zeka sohbet robotunun son sekiz ay boyunca karşılaştığı riskli ve kötüye kullanım örneklerini gözler önüne seriyor.
Raporda tespit edilen tehditler arasında biyolojik araştırmaların yanı sıra siber gözetleme, dijital propaganda ve askeri teçhizat tasarımı gibi alanlar da bulunuyor.
Chikungunya Virüsü ve Fon Başvurusu Vakası
Tespit edilen en dikkat çekici vakalardan birinde, askeri bir araştırma enstitüsünde görevli bir bilim insanının chikungunya virüsü deneyleri için Claude'dan fon başvuru metni yazmasını istediği belirlendi.
Bu tür hassas talepler çift kullanımlı teknolojilerin barındırdığı gizli riskleri bir kez daha gözler önüne sererken, şirket ilgili süreçleri yakından takip etmeyi sürdürüyor.