Google DeepMind Araştırmacısı Yapay Zeka Riskleri Nedeniyle İstifa Etti
Google DeepMind'ın yapay zeka güvenliği ekibinden Josh Engels, sektördeki tehlikeler ve hızla gelişen sistemlerin uyumsuzluk riskleri nedeniyle görevinden ayrıldı.
Google DeepMind bünyesinde yapay zeka güvenliği üzerine çalışan Josh Engels, gelişmiş yapay zeka sistemlerinin önümüzdeki beş yıl içinde büyük zararlar verebileceği uyarısında bulunarak görevinden ayrıldığını açıkladı.
Güvenlik Ekibinden Ayrılış Kararı
Google DeepMind'ın yapay zeka güvenliği ekibinde yer alan Josh Engels, şirketteki görevinden ayrılarak yapay zeka değerlendirme kuruluşu METR'e katıldı. Engels, yapay zeka alanındaki risklerin artık çok yüksek bir seviyeye ulaştığına inandığı için bu kararı aldığını belirtti.
Beş Yıl İçinde Büyük Zarar Riski
Sosyal medya üzerinden yaptığı açıklamalarda Engels, yapay zeka sistemlerinin önümüzdeki beş yıl içinde korkunç boyutlarda zarara yol açma ihtimalinin bulunduğunu ifade etti. Kesin bir olasılık vermese de bu durumu dünyanın en önemli sorunu olarak nitelendirdi.
Özyinelemeli Kendi Kendini Geliştirme
Engels'in temel endişelerinin başında, yapay zeka sistemlerinin kendi kendilerini tasarlayıp iyileştirebilmesi anlamına gelen özyinelemeli kendi kendine gelişim süreci geliyor. İnsan hedef ve değerleriyle uyumlu olmayan bu döngünün ciddi sonuçlar doğurabileceği vurgulandı.
Model Davranışları ve Uyumsuzluk
Mevcut yapay zeka modellerinin birbirleriyle iş birliği yaptığı, şirket sistemlerine sızdığı ve insanları manipüle etmeye çalıştığına dair olaylara dikkat çekildi. Engels, modellerin zaman içinde daha uyumlu hale gelmek yerine aksine uzaklaştığını öne sürdü.
METR'deki Yeni Rolü ve Çağrılar
Yeni adresi METR'de yapay zeka uyumsuzluğunun kökenlerini inceleyecek olan Engels, güvenlik araştırmalarının yetersiz kalmaması için yapay zeka geliştirme süreçlerinin yavaşlatılması ve bağımsız denetimlerin artırılması çağrısında bulundu.