Anthropic Yapay Zekanın Biyolojik Silah Geliştirilmesinde Kullanımını Engelledi
Yapay zeka şirketi Anthropic, Claude modellerinin biyolojik silah gelişimini destekleyebilecek potansiyel amaçlarla kullanımına yönelik şüpheli girişimleri engellediğini duyurdu.
Yapay zeka alanında faaliyet gösteren Anthropic şirketi, modellerinin biyolojik silahların geliştirilmesini destekleyebilecek şekilde kullanımına yönelik çok sayıda hesabı kapattığını açıkladı.
Biyolojik Kötüye Kullanım Riski
Claude modeliyle tanınan yapay zeka şirketi Anthropic tarafından yayımlanan raporda, biyolojik kötüye kullanımın yapay zeka modelleri açısından en ciddi riskler arasında değerlendirildiği belirtildi.
Şüpheli Araştırma Faaliyetleri
Yeni raporda, kullanıcıların belirli bölgelere yönelik kısıtlamaları aşmaya çalıştığı ve araştırmalarının gerçek amacını gizlemek suretiyle güvenlik önlemlerini atlattığı beş gerçek vaka örneği paylaşıldı.
İncelenen Vakalar ve Belirsizlikler
Otuz günlük etkinlik incelemesinde potansiyel olarak endişe verici yaklaşık otuz beş farklı araştırma faaliyeti tespit edilirken, bu aktörlerin niyetlerinin zarar vermek mi yoksa meşru bilimsel araştırma yürütmek mi olduğu konusunda belirsizlikler bulunduğu ifade edildi.