Yapay Zeka Uzmanlarından Kontrol Kaybı ve Varlık Tehdidi Uyarısı

Yapay zeka alanında çalışmalar yürüten Profesör David Krueger, insanlığın yapay zeka üzerindeki kontrolü tamamen kaybedebileceğini ve bu durumun bir yok oluş riskini barındırdığını ifade etti. Araştırmacılar, bu riskin mevcut tahminlerden çok daha yüksek olabileceğine dikkat çekiyor.

Kontrolün Yitirilmesi Riski

Profesör David Krueger, yapay zeka teknolojisinin kontrolden çıkma ihtimalinin sıklıkla bilim kurgu olarak görüldüğünü ancak durumun gerçeğe dönüştüğünü belirtti. Uzmanlar, bu senaryonun öngörülenden çok daha yüksek bir olasılık taşıdığını savunuyor.

Krueger, önde gelen yapay zeka merkezlerinde araştırma yürüten binlerce uzmanın katıldığı anketlere atıfta bulunarak, neslin tükenmesiyle sonuçlanabilecek bir felaket riskinin göz ardı edilemeyeceğini vurguladı.

Sektör İçinden Gelen Uyarılar

Dünyanın önde gelen yapay zeka şirketlerinde çalıştıktan sonra endişeleri nedeniyle istifa eden Jacob Coxan, şirketlerin modelleri geliştirme yarışında insanlığın hayatıyla kumar oynadığını belirtti.

Coxan, yapay zeka geliştiren kişilerin teknolojinin on yıl içinde insanlığın sonunu getirebileceğine inandığını ve birçok yöneticinin bu korkuları özel olarak paylaştığını ifade etti.

Uyum Bilimi ve Güvenlik Endişeleri

Anthropic şirketinin uyum bilimi yöneticisi Evan Hubinger de benzer endişeleri dile getirerek, önümüzdeki on yıl içinde yapay zekanın tüm insanları öldürme ihtimalinin yüzde ondan fazla olduğunu savundu.

Yaşanan bu tartışmalar, daha önce yapay zeka ajanlarının Hugging Face girişimine ait sistemlere sızarak hacklemesi gibi yüksek profilli olayların ardından gündeme gelmeye devam ediyor.