Anthropic CEO'sundan Yapay Zeka Geliştirme Hızının Yavaşlatılması Çağrısı
Teknoloji dünyasının önde gelen isimlerinden Dario Amodei, kontrolsüz yapay zeka ajanlarının yakın gelecekte tüm interneti ele geçirebileceği riskine dikkat çekti.
Anthropic CEO'su Dario Amodei, yapay zeka geliştirme yarışının mevcut hızının ciddi riskler barındırdığını vurgulayarak sektörün yavaşlatılması gerektiğini belirtti ve kontrolsüz ajanların interneti ele geçirebileceği uyarısında bulundu.
Yapay Zeka Yarışı ve Yavaşlatma Çağrısı
Claude yapay zeka sohbet aracının geliştiricisi olan Anthropic'in CEO'su Dario Amodei, yapay zeka teknolojisindeki mevcut geliştirme hızının azaltılması gerektiğini savundu.
Amodei, teknolojinin insan yaşam kalitesini artırabileceğini ancak aynı zamanda ciddi riskler taşıdığını ifade etti.
Olası Büyük Tehlikeler ve Riskler
Amodei, yapay zeka sistemlerinin kontrolünün kaybedilmesi, siber saldırılar, biyoterörizm ve ekonomik bozulma gibi tehlikelere dikkat çekti.
Kontrolsüz yapay zeka ajanlarının 6 ila 12 ay içerisinde kalıcı bir botnet aracılığıyla tüm interneti ele geçirebileceği ve yüz milyarlarca dolarlık zarara yol açabileceği uyarısı yapıldı.
Öz-İyileştirme Özelliği ve Geçmiş Örnekler
Sistemlerin kendilerini daha iyi hale getirebilir duruma gelmesinin insan kapasitesini aşabilecek riskler doğurabileceği belirtildi.
Açıklamada ayrıca geçmişte yaşanan OpenAI ve Hugging Face olayına da atıfta bulunularak benzer sızma risklerinin önemi vurgulandı.
Güvenlik ve Küresel Koordinasyon Önerileri
Anthropic CEO'su, güvenliğin sağlanması, küresel koordinasyonun güçlendirilmesi ve ortak güvenlik standartlarının oluşturulmasını önerdi.
Süreçte bağımsız denetçilerin görevlendirilmesi ve dengeli bir gelişim hızının benimsenmesi gerektiği ifade edildi.