Yapay zeka sektöründe güvenlik önlemleri için yavaşlama çağrısı
Anthropic Üst Yöneticisi Dario Amodei, hızla gelişen yapay zeka sektörünün güvenlik tedbirlerinin yetişebilmesi için hız kesmesi gerektiğini vurguladı.
Anthropic Üst Yöneticisi Dario Amodei, hızla ilerleyen yapay zeka sektörünün güvenlik önlemlerinin yetişmesine imkan tanımak için gelişimini yavaşlatması gerektiğini belirtti. Amodei, gerekli tedbirler alınmazsa sistemlerin kısa süre içinde büyük riskler barındırabileceğine dikkat çekti.
Sektörde Güvenlik Uyarısı
Anthropic Üst Yöneticisi Dario Amodei, yapay zeka sektörünün çok hızlı bir şekilde ilerlediğini ve bu durumun riskler barındırdığını ifade etti. Gelişmelerin güvenli bir seviyede ilerleyebilmesi için zamana ihtiyaç duyulduğunu vurguladı.
Kritik Riskler ve Süreç
Amodei, gerekli kontroller yapılmadığı takdirde yapay zeka modellerinin altı ila on iki ay içinde internetin kontrolünü ele geçirebilecek kapasiteye ulaşabileceği konusunda uyarılarda bulundu.
Küresel Koordinasyon Planı
Amodei, internet sitesinde yayınladığı yazıda sektördeki denetimlerin artırılmasına yönelik bir plan sundu. Bu planın bir kısmını şirketi halihazırda uygularken, diğer kısımların geniş sektör katılımı ve hükümetlerle koordinasyon gerektirdiğini kaydetti.
Sektör İsimlerinden Destek
Amodei'nin çağrısı sektördeki diğer büyük isimlerden hızlı bir şekilde destek buldu. OpenAI Üst Yöneticisi Sam Altman ve Elon Musk, sosyal medya üzerinden yaptıkları paylaşımlarla bu görüşlere katıldıklarını ifade ettiler.
Kötü Amaçlı Faaliyetler
Anthropic, kötü niyetli kişilerin yapay zeka modellerini siber saldırılar, gözetim ve biyolojik silahlara yol açabilecek araştırmalar gibi zararlı faaliyetler için kullanma girişimlerini engellediğini duyurdu.
İstifalar ve Güvenlik Endişeleri
Yaşanan gelişmelerin yanı sıra, şirket içerisindeki bazı araştırmacılar yeterince sorumlu davranılmadığı endişesiyle istifa etti. Eski bir çalışan ise insanlığın bu geçiş sürecinden sağ çıkamayabileceğini belirtti.