Anthropic Yöneticisi Yapay Zeka Geliştirme Hızının Düşürülmesini İstedi
Yapay zeka sektörünün önde gelen isimlerinden Dario Amodei, çalışmaların yavaşlatılması çağrısında bulunarak üç aşamalı bir plan açıkladı.
Anthropic şirketinin CEO'su Dario Amodei, yapay zeka sektörünün gelişim hızını düşürmesi yönünde çağrıda bulundu ve güvenlik önlemleri için üç aşamalı bir plan sundu.
Yapay Zeka Sektörüne Yavaşlama Çağrısı
Anthropic CEO'su Dario Amodei, yapay zeka endüstrisinin gelişim hızını düşürmesi gerektiğini belirterek kamuoyuna yeni bir çağrıda bulundu.
Amodei, kaleme aldığı makalede sektörün dengeli bir hızda ilerlemesinin önemine dikkat çekti ve üç aşamalı bir plan paylaştı.
Üç Aşamalı Güvenlik Planı ve Erişim
Öne sürülen plan kapsamında Anthropic, üçüncü taraf değerlendiricilere sistemler üzerinde kalıcı ve çalışan seviyesinde erişim sağlamayı taahhüt etti.
Bu erişim sayesinde güvenlik önlemlerine uyumun doğrulanması, olayların raporlanması ve modellerin hizalanmasının değerlendirilmesi amaçlanıyor.
Güvenlik Uyarıları ve İstifalar
Bu hamle, eski bir Anthropic araştırmacısının yapay zekanın 2030 yılına kadar insanlığın sonunu getirebileceği yönündeki uyarılarının ardından geldi.
Araştırmacı Jacob Coxon, şirketlerin tehlikelere karşı kayıtsız kaldığını belirterek görevinden ayrıldığını açıklamıştı.
Sektör Liderlerinin Tepkileri
OpenAI CEO'su Sam Altman sosyal medya üzerinden yaptığı paylaşımda Dario Amodei ile aynı fikirde olduğunu belirtti.
Altman, bağımsız değerlendiriciler konusunda kendi şirketlerinin de benzer bir adım atacağını ifade ederken, Elon Musk ve diğer isimler de sürece tepki gösterdi.