Anthropic CEO'sunden Yapay Zeka Geliştirme Sürecinin Yavaşlatılması Çağrısı

Anthropic Üst Yöneticisi Dario Amodei, yapay zeka sektörünün hızla ilerleyen gelişimini yavaşlatarak güvenlik önlemlerine zaman tanınması gerektiğini, aksi takdirde sistemlerin büyük riskler barındırabileceğini ifade etti.

Yapay Zeka İçin Yavaşlama Çağrısı

Anthropic CEO'su Dario Amodei, yapay zeka sektörünün çok hızlı geliştiğini ve güvenlik önlemlerinin bu hıza yetişemediğini belirterek sektörün yavaşlaması gerektiğini vurguladı.

Amodei, model yeteneklerinin kritik seviyelere ulaşmasından önce kazanılacak zamanın, uyum çalışmalarını ilerleterek büyük riskleri azaltabileceğini ifade etti.

Olası Riskler ve Kritik Süreçler

Yapılan uyarılar arasında, yapay zeka sistemlerinin gelecekte internetin tamamını ele geçirebilecek yetkinliğe altı ila on iki ay içinde ulaşabileceği ihtimali yer alıyor.

Daha önce bazı eleştirmenler bu uyarıların heyecan yaratmak amacıyla abartıldığını savunurken, şirketler ve eski çalışanlar güvenlik açıklarına dikkat çekiyor.

Güvenlik Önlemleri ve İstifalar

Anthropic, kötü niyetli kişilerin modellerini siber saldırılar, gözetim ve biyolojik silah araştırmaları için kullanma girişimlerini engellediğini duyurmuştu.

Öte yandan, şirketin yeterince sorumlu davranmadığını düşünen bazı araştırmacılar ve eski çalışanlar, sorumluluk sahibi olmak amacıyla görevlerinden ayrıldıklarını açıkladılar.

Yeni Sorumluluk ve Denetim Planı

Amodei, riskleri dizginlemek amacıyla sektördeki öncü şirketlerin dış denetçi ekiplerine sürekli ve çalışan benzeri erişim sağlamasını taahhüt etmesini önerdi.

Önerilen planın diğer kısımları arasında ABD hükümetinden muafiyet talepleri ve küresel koordinasyon gerektiren uluslararası düzenleme çabaları bulunuyor.