Anthropic Araştırmacısı Jacob Coxon Güvenlik Endişesiyle İstifa Etti

Anthropic şirketinde görev yapan yapay zeka araştırmacısı Jacob Coxon, teknolojinin kontrolden çıkma riski taşıdığı gerekçesiyle görevinden ayrıldı. Coxon, devlet müdahalesi olmadan güvenli bir geliştirme yapılamayacağını savundu.

İstifa ve Gerekçeleri

ABD merkezli Wall Street Journal gazetesinin haberine göre, Anthropic'te yeni modelleri eğitme konusunda uzmanlaşan 27 yaşındaki araştırmacı Jacob Coxon görevinden istifa etti. Coxon, sektörün kendi içindeki rekabetin şirketleri insan kontrolünden çıkabilecek otonom sistemler yapmaya sürüklediğini savundu.

Gelecek Yılın Sonuna Yönelik Uyarı

Devlet müdahalesi veya koordineli bir yavaşlama olmadan insan seviyesini aşan yapay zekanın güvenli geliştirilemeyeceğini belirten Coxon, gelecek yılın sonuna kadar işlerin kontrolden çıkabileceği uyarısında bulundu.

Siber Saldırılar ve Zararlı Amaçlar

Haberde ayrıca OpenAI ve Anthropic modellerinin ajan sürüleri halinde düzenlediği son siber saldırıların, yapay zekanın zararlı amaçlar edinebildiğini ortaya koyduğu aktarıldı. Öte yandan OpenAI CEO'su Sam Altman ve Baş Bilim İnsanı Jakub Pachocki de hızlı yükselişin doğuracağı sonuçlara karşı koordineli yavaşlama ve devlet müdahalesi çağrısında bulundu.

Süper Zeka Yarışı ve Sosyal Medya Paylaşımları

Haberin ardından X platformunda paylaşımlar yapan Coxon, şirketlerin süper zekaya doğru bir yarışa girdiğini ve insanlığın hayatıyla kumar oynandığını belirtti. Geçtiğimiz aylarda Anthropic'ten ayrılan kıdemli araştırmacı Evan Hubinger da Coxon'ın paylaşımlarını alıntılayarak on yıl içinde yok olma riskini yüzde 10'dan fazla gördüğünü ifade etti.

Sektördeki Diğer Güvenlik Ayrılıkları

Yapay zeka sektöründe güvenlik odaklı istifalar dikkat çekmeye devam ediyor. Daha önce OpenAI'dan ayrılan ve Anthropic'e geçen Jan Leike ile Mrinank Sharma gibi isimler de sektördeki benzer kaygılara dikkat çeken diğer araştırmacılar arasında yer alıyor.