Anthropic CEO'sundan Yapay Zeka Sektörüne Güvenlik İçin Yavaşlama Çağrısı

Anthropic CEO'su Dario Amodei, yapay zeka endüstrisinin hızla süren gelişimini yavaşlatarak güvenlik önlemlerinin yetişmesine imkan tanınması gerektiğini vurguladı ve önlem alınmazsa sistemlerin altı ila on iki ay içinde interneti ele geçirebilecek riskler barındırdığını ifade etti.

Yapay Zeka Sektörüne Yavaşlama Uyarısı

Anthropic CEO'su Dario Amodei, yapay zeka sektörünün hızla ilerleyen gelişim temposunu düşürmesi yönünde önemli bir çağrıda bulundu. Geliştirme hızının yavaşlatılması, olası risklere karşı güvenlik önlemlerinin alınması için zamansal avantaj sağlayacak.

Amodei, gerekli önlemlerin alınmaması durumunda yapay zeka sistemlerinin yakın gelecekte kontrolsüz bir şekilde interneti ele geçirebilecek kapasiteye ulaşabileceği konusunda uyarılarda bulundu.

Sektör Liderlerinden Gelen Tepkiler

Dario Amodei tarafından yapılan güvenlik odaklı öneriler, yapay zeka sektörünün diğer önemli isimlerinden kısa süre içinde olumlu karşılıklar buldu. OpenAI CEO'su Sam Altman ve Elon Musk, sosyal medya üzerinden değerlendirmelerde bulundu.

Sam Altman, ChatGPT'nin arkasındaki şirketin Amodei'nin tekliflerinden birine bağlılık taahhüt edeceğini duyururken, Elon Musk ise Dario Amodei'nin haklı olduğunu ifade eden bir paylaşım yaptı.

Güvenlik Önlemleri ve İstifalar

Anthropic şirketi, kötü niyetli kişilerin yapay zeka modellerini siber saldırılar veya zararlı faaliyetler için kullanma girişimlerini engellediklerini duyurmuştu. Bu gelişmeler sürerken bazı araştırmacılar güvenlik endişeleriyle görevlerinden ayrıldı.

Eski bir Anthropic çalışan olan Joe Benton, şirketlerin sorumlu davranmadığı endişeleriyle güvenlik ekibindeki görevinden ayrıldığını ve yapay zeka şirketlerinden hesap sormayı amaçladığını belirtti.