Anthropic Yapay Zeka Modellerinin Biyolojik Silah ve Casusluk İçin Kullanım Girişimlerini Engelledi
Teknoloji firması Anthropic, Claude yapay zeka modelinin biyolojik silah araştırmaları, füze projeleri ve casusluk amacıyla kullanılma girişimlerini engellediğini duyurdu.
ABD merkezli teknoloji şirketi Anthropic, son sekiz ayda yapay zeka modellerinin biyolojik silah araştırmaları, füze projeleri ve casusluk gibi alanlarda kötüye kullanım girişimlerini engellediklerini bildiren bir rapor yayımladı.
Yapay Zeka Modellerinin Kötüye Kullanımı
Teknoloji firması Anthropic, Claude isimli sohbet botu da dahil olmak üzere yapay zeka modellerinin kötüye kullanımına dair son sekiz aylık dönemi kapsayan bir rapor yayımladı. Raporda, modellerin biyolojik silah geliştirilebilecek araştırmalar için kullanılmaya çalışıldığı belirtildi.
Uzmanlar, yapay zeka teknolojilerinin potansiyel tehlikelerine dikkat çekerek modellere erişimin daha sıkı denetlenmesi gerektiğini savunuyor.
Aşı Araştırmaları ve Tehlikeli Patojenler
Anthropic, aşılara yönelik araştırmalar ile tehlikeli patojenlerin mühendisliğini yapmanın aynı ince çizgide buluşabileceğini belirterek araştırmaların meşru mu yoksa kötü niyetli mi olduğunu kesin olarak ayırt edemediklerini ifade etti.
Şirket bu tür durumlarda ihtiyati yaklaşarak önlem aldığını kaydetti.
Chikungunya Virüsü Vakası ve Askeri Bağlantılar
Mayıs ayındaki bir vakada bir bilim insanının, sıtmaya benzer sivrisinek kaynaklı chikungunya virüsünün canlı hayvanlarda daha zararlı hale getirilmesi için hibrit mutasyonlar tasarlamaya çalıştığı tespit edildi.
Çalışmanın askeri bir araştırma enstitüsü için yapılmasının anlaşılması üzerine Anthropic ilgili hesapları yasakladı.
Tehdit İstihbaratı ve Uzman Görüşleri
Anthropic Tehdit İstihbaratı Başkanı Jacob Klein, araştırmanın silahlandırılmasının amaçlanıp amaçlanmadığını bilmediklerini dile getirdi.
Stratejik Riskler Konseyi'nden Andrew Weber ise raporun yayımlanmasından önce yaptığı incelemede, bu tür gelişmiş modellere erişimin yalnızca güvenilir araştırmacılarla sınırlandırılması gerektiği çağrısında bulundu.
Yeni Modellerin Karmaşık Bilimsel Kapasitesi
Anthropic, geçen yıl eski modeller üzerinde yapılan değerlendirmelerin tehlikeli biyolojik araştırmalara anlamlı bir destek sağlayamayacağını gösterdiğini, ancak yeni modellerin karmaşık bilimsel çalışmaları tamamlayabildiğini vurguladı.
Aynı raporda Claude'un füze projeleri ve casusluk faaliyetlerinde kullanılmak istendiği bilgisi de yer aldı.
ABD Başkanı Donald Trump'ın Açıklamaları
Raporun yayımlanmasından kısa süre önce bir araştırmacı, yapay zeka geliştirme yarışının insanlığı ortadan kaldırabileceğini öne sürerek istifa etti.
ABD Başkanı Donald Trump ise Perşembe günü geç saatlerde yaptığı açıklamada, ülkenin yapay zeka yarışına liderlik etmemesi durumunda çok kötü bir konuma düşeceğinden endişe duyduğunu belirterek teknolojinin insanlığın sonunu getireceğine yönelik endişeleri reddetti.