OpenAI Yönetim Kurulu Üyesi Yapay Zeka Risklerine Karşı Uyarıda Bulundu

OpenAI'ın kar amacı gütmeyen yönetim kurulu üyesi ve ABD hükümeti teknoloji danışmanı Paul Christiano, yapay zeka endüstrisinin felaketle sonuçlanabilecek kontrol kaybı risklerini kabul edilebilir bir seviyeye indirmekten uzak olduğunu açıkladı.

Kontrol Kaybı Riski

Paul Christiano, yapay zeka yeteneklerindeki hızlı ivmelenmenin çok yakın bir gelecekte felaket niteliğinde ve geri döndürülemez bir kontrol kaybına yol açma riski barındırdığını ifade etti.

Christiano, genel olarak yapay zeka sektörünün ve OpenAI'ın bu tehlikeyi düşürmek amacıyla doğru bir çizgide ilerlemediğini dile getirdi.

Güvenlik ve Yönetişim

Daha önce OpenAI'da model hizalama çalışmalarını yürüten Paul Christiano, şirketin kar amacı gütmeyen vakıf yönetim kuruluna katılarak güvenlik ve güvenilirlik uygulamalarını denetleyecek komisyonda görev alacak.

Christiano, OpenAI'ın bu durumun üstesinden gelmesi halinde risklerin önemli ölçüde azaltılabileceğini de sözlerine ekledi.

Sektördeki Diğer Endişeler

Anthropic şirketinde görevli üst düzey bir çalışan, teknolojinin önümüzdeki on yıl içinde tüm insanlığı yok etme ihtimalinin yüzde 10'dan fazla olduğunu öne sürdü.

Nobel ödüllü bilgisayar bilimci Geoffrey Hinton da bu yüzde 10'luk ihtimalin mantıksız bir tahmin olmadığını kamuoyuyla paylaştı.