Yapay Zeka Çalışanları Kıyamet Senaryolarına Karşı Mesafeli
Önemli teknoloji şirketlerinin çalışanları, denetimsiz yapay zekanın insanlığın sonunu getireceği iddialarına şüpheyle yaklaşıyor.
OpenAI, Meta ve DeepMind gibi önde gelen yapay zeka şirketlerinin çalışanları, teknolojinin kontrolsüz gelişiminin insanlığın yok olmasına yol açacağı yönündeki iddialara mesafeli yaklaşıyor.
Çalışanların Şüpheci Yaklaşımı
OpenAI, Meta ve DeepMind gibi şirketlerde görev yapan bazı çalışanlar, kontrolsüz yapay zekanın kitlesel ölümlere yol açacağı fikrine şüpheyle yaklaşıyor. Bu konudaki varoluşsal korkuların arkasında yeterli detay bulunmadığı ifade ediliyor.
Sektördeki Farklı Sesler
Daha önce Anthropic'te çalışan Jacob Coxon'ın iddiaları sektörde yankı uyandırarak gelişimin yavaşlatılması çağrılarına yol açmıştı. Ancak Meta veri bilimcisi Colin Fraser, yapay zekanın insan ölümüne neden olacak bir hedefi izleyeceğine dair gerçek bir kanıt bulunmadığını belirtti.
Yakın Vadeli Gerçek Riskler
Çalışanlar varoluşsal senaryolara şaka yollu yaklaşsa da, aşılabilir güvenlik duvarları ve askeri kullanım gibi acil riskler konusunda ortak endişeler paylaşıyor. Bu durum, güvenlik testleri sırasında yaşanan kontrol kayıplarıyla daha da belirginleşti.
Bağımsız Değerlendirme Arayışı
AI güvenlik araştırma kuruluşlarından bağımsız değerlendiricilerin büyük yapay zeka laboratuvarlarına yerleştirilmesi konusunda artan bir mutabakat bulunuyor. Anthropic, Faculty'den yapay zeka değerlendiricileri getireceğini duyurdu.