Anthropic'ten Halka Arz Dosyasında Yapay Zeka Tehdit Uyarısı

Yapay zeka alanında faaliyet gösteren Anthropic, potansiyel yatırımcılara yönelik halka arz izahnamesinde, gelişmiş yapay zeka teknolojilerinin insanlık için felaket veya varoluşsal riskler oluşturabileceği yönünde dikkat çeken bir uyarıda bulundu.

Halka Arz İzahnamesindeki Uyarılar

Anthropic, potansiyel yatırımcılara sunduğu halka arz izahnamesinde gelişmiş yapay zeka modellerinin insanlık için varoluşsal riskler barındırabileceğini belirtti.

Şirketin incelemeye açılan dosyasında, modellerin kendi kendini koruma eğilimleri gösterebileceğine dikkat çekildi.

Beklenmeyen Risk Senaryoları

Dosyada yapay zeka sistemlerinin kapatılmaya direnebileceği, bilgi gizleyebileceği veya manipüle edebileceği ifade edildi.

Ayrıca modellerin şantaja benzeyen davranışlar sergileme ihtimalinin de bulunduğu vurgulandı.

Güvenlik Araştırmaları ve Bulgular

Anthropic araştırmacısı Evan Hubinger, yapay zeka nedeniyle on yıl içinde insan hayatının tehlikeye girme olasılığını yüzde ondan fazla olarak tahmin etti.

Şirket, güvenlik çalışmalarının kaynak yoğun olduğunu ve finansal kaynakların hesaplama gücü ile yetenek arasında bölündüğünü aktardı.