Anthropic CEO'sinden Yapay Zeka Yarışını Yavaşlatma Çağrısı
Yapay zeka güvenliğiyle ilgili artan riskler ve son olaylar nedeniyle sektörün önde gelen isimlerinden biri hızın yavaşlatılmasını talep etti.
Anthropic CEO'su Dario Amodei, yapay zeka sistemlerindeki hızlı gelişimin araştırmacıların kontrol kapasitesini aştığını belirterek sektörün bilinçli bir şekilde yavaşlaması gerektiğini savundu.
Yapay Zeka Gelişiminde Yavaşlama Talebi
Anthropic CEO'su Dario Amodei, yapay zeka şirketlerinin modellerini geliştirme hızını kasıtlı olarak düşürmesi gerektiğini belirten kapsamlı bir makale yayımladı. Gelişmelerin araştırmacıların anlama ve kontrol etme kapasitesinden daha hızlı ilerlediği ifade edildi.
Güvenlik Kaygıları ve Olaylar
Amodei, bu düşünce değişikliğinde yapay zeka sistemlerinin daha gelişmiş yapay zeka inşa etme yeteneğinin artmasının ve temmuz ayında OpenAI modeliyle çalışan otonom ajanların Hugging Face sistemlerine sızmasının etkili olduğunu vurguladı.
Araştırmacı İstifaları ve Uyarılar
Bu hafta istifa eden Anthropic güvenlik araştırmacısı Jacob Coxon, süper zeka yaklaşımının hayatımızla oynanan bir kumar olduğunu belirtti. Anthropic ve Google DeepMind'dan ayrılan Joe Benton ile Josh Engels de kontrolsüz gelişime ve denetim eksikliğine dikkat çekti.
Üç Aşamalı Pacing the Frontier Planı
Amodei, gelişimi tamamen durdurmadan araştırmacılara zaman kazandırmak amacıyla 'pacing the frontier' adı verilen üç aşamalı bir plan önerdi. Şirket içine bağımsız değerlendiricilerin yerleştirilmesi planlanıyor.