Anthropic CEO'sunden Yapay Zeka Geliştirme Sürecinin Yavaşlatılması Çağrısı
Anthropic Üst Yöneticisi Dario Amodei, hızla büyüyen yapay zeka sektörünün güvenlik tedbirlerinin yetişebilmesi için gelişimi yavaşlatması gerektiğini belirtti.
Anthropic CEO'su Dario Amodei, yapay zeka sektörünün hızla ilerleyen gelişimini yavaşlatması gerektiğini vurgulayarak, güvenlik tedbirlerinin bu hıza yetişmesinin zorunlu olduğuna dikkat çekti ve bir eylem planı açıkladı.
Gelişimin Yavaşlatılması Çağrısı
Anthropic Üst Yöneticisi Dario Amodei, yapay zeka sektörünün çok hızlı ilerlediğini ve güvenlik önlemlerinin bu hıza yetişebilmesi için çalışmaların yavaşlatılması gerektiğini ifade etti.
Amodei, geliştirme sürecinin kontrol altında tutulmaması durumunda yaşanabilecek risklere karşı dikkatli olunması gerektiğinin altını çizdi.
Olası Riskler ve İnternet Uyarısı
Yapay zeka modellerinin yakın gelecekte kritik yetenek seviyelerine ulaşabileceği belirtiliyor.
Amodei, altı ila on iki ay içinde yapay zekanın tüm interneti ele geçirebilecek bir sürüyü yönetme kapasitesine erişebileceği konusunda uyarılarda bulundu.
Önerilen Güvenlik Planı
Dario Amodei, internet sitesinde yayımladığı planda sektördeki denetimlerin artırılması gerektiğini savunuyor.
Plan kapsamında dış denetçilere çalışan benzeri erişim tanınması, ABD'de antitröst yasalarından muafiyet sağlanması ve uluslararası iş birliği gibi maddeler yer alıyor.
Sektör Liderlerinden Gelen Tepkiler
Amodei'nin çağrısına sektörün önde gelen isimlerinden hızlı destek mesajları geldi.
OpenAI CEO'su Sam Altman güvenlik tekliflerinden birine bağlı kalacaklarını belirtirken, Elon Musk ise Dario'nun haklı olduğunu ifade etti.
Şirket İçi Ayrılıklar ve Endişeler
Yaşanan bu gelişmelerin arka planında güvenlik kaygıları ve personellerin görevden ayrılmaları yer alıyor.
Eski Anthropic çalışanı Joe Benton, yapay zeka şirketlerini sorumlu tutmak amacıyla görevinden ayrıldığını ve geçiş sürecinde insanlığın hayatta kalamayabileceğini vurgulayan bir yazı yayımladı.