Yapay Zeka Araştırmacılarından İnsanlığın Geleceği İçin Kritik Uyarı
Sektördeki mevcut ve eski araştırmacılar, denetimsiz süper zeka yarışının hayatları tehlikeye attığını belirterek ciddi risklere dikkat çekti.
Anthropic ve OpenAI şirketlerinden çok sayıda eski ve mevcut araştırmacı, yapay zekanın insanlığı yok etme potansiyeli taşıdığı konusunda ciddi uyarılarda bulundu.
Yapay Zeka ve Riskler
Mevcut ve eski Anthropic araştırmacıları, yapay zeka teknolojisinin gelecekte insanlığı yok edebileceği konusunda endişelerini dile getirdi. Bu durum, sektördeki güvenlik açıklarını bir kez daha gündeme taşıdı.
İstifa ve Açıklamalar
OpenAI ve Anthropic bünyesinde ön eğitim araştırmaları yürüten Jacob Coxon, görevinden ayrıldığını sosyal medya üzerinden duyurdu. Coxon, her iki şirketin de insan hayatıyla kumar oynadığını ifade etti.
Olasılık ve Hizalama
Anthropic AI bünyesinde Hizalama Bilimi lideri olan Evan Hubinger, araştırmacıların önümüzdeki on yıl içinde yapay zekanın tüm insanları öldürme olasılığını yüzde 10'dan fazla gördüğünü belirtti.
Yasal ve Hükümet Çağrıları
Çeşitli yapay zeka şirketlerinden 1.300'den fazla çalışan, ABD hükümetinden yapay zeka gelişiminin yavaşlatılmasına yönelik çabaları desteklemesini talep eden bir mektuba imza attı.