Yapay Zeka Güvenlik Uzmanından Geliştirme Hızına Yönelik İstifa ve Uyarı
Anthropic ve OpenAI'ın eski güvenlik araştırmacısı Jacob Coxon, yapay zeka sektörünün tehlikeli bir hızla ilerlediğini belirterek görevinden ayrıldı.
Anthropic ve OpenAI'da güvenlik araştırmacısı olarak görev yapan Jacob Coxon, yapay zeka teknolojilerinin gelişim hızına yönelik güvenlik endişeleri nedeniyle Anthropic'teki görevinden istifa etti.
Güvenlik Endişeleriyle Gelen İstifa
Jacob Coxon, yapay zeka teknolojilerinin kontrolsüz gelişimine duyduğu endişeler nedeniyle geçtiğimiz hafta Anthropic'teki görevinden ayrıldığını duyurdu. Coxon, hem Anthropic hem de OpenAI şirketlerinin sorumluluk bilinciyle hareket etmediğini vurguladı.
Yapay Zeka Yarışı ve Varoluşsal Riskler
Eski güvenlik araştırmacısı, şirketlerin insan hayatını tehlikeye atacak şekilde kendi kendini geliştiren süper zekaya doğru bir yarış içinde olduğunu belirtti. Sektör içindeki kişilerin on yılın sonuna kadar ciddi varoluşsal riskler oluşabileceğine inandığını ifade etti.
Yavaşlama Çağrısına Destek
Coxon, Anthropic Üst Yöneticisi Dario Amodei'nin yapay zeka geliştirme sürecinin yavaşlatılması yönündeki çağrısını desteklediğini belirtti. Bu adımın, farklı yapay zekalar geliştiren yapılar arasında gerekli bir yavaşlamayı sağlamak adına önemli bir gelişme olduğunu kaydetti.