Paul Christiano OpenAI Vakfı Yönetim Kurulu Üyeliğine Getirildi
Yapay zeka güvenliği alanındaki çalışmalarıyla bilinen araştırmacı Paul Christiano, olası felaket risklerini azaltmak amacıyla yönetim kuruluna katıldı.
Yapay zeka sistemlerinin insan kontrolünde kalması yönündeki çalışmalarıyla tanınan araştırmacı Paul Christiano, OpenAI Vakfı'nın yönetim kurulu üyesi olarak göreve başladı.
Yönetim Kuruluna Katılım Süreci
Yapay zeka alanında etkili bir araştırmacı olan Paul Christiano, OpenAI Vakfı'nın yönetim kuruluna dahil oldu. Bu gelişme, yapay zeka laboratuvarı tarafından çarşamba günü kamuoyuna duyuruldu.
Sektörün Güvenlik Durumuna Dair Uyarılar
Christiano sosyal medya üzerinden yaptığı açıklamada, yapay zeka yeteneklerindeki hızlı ivmelenmenin yakın vadede felaketle sonuçlanabilecek bir kontrol kaybı riski taşıdığına inandığını belirtti.
Ayrıca yapay zeka endüstrisinin ve OpenAI'ın bu riski kabul edilebilir bir seviyeye indirmek için henüz doğru yolda olmadığını ifade ederek, riskleri önemli ölçüde azaltma potansiyeli gördüğü için kurula katıldığını aktardı.
Güvenlik Prosedürleri ve Yeni Görev
Christiano, Carnegie Mellon Üniversitesi profesörü Zico Kolter tarafından yönetilen Güvenlik ve Güvenlik Komitesi'nde görev yapacak. Bu komite, Astra gibi yeni modellerin piyasaya sürülüp sürülmeyeceği konusunda nihai söz hakkına sahip bulunuyor.
Geçmiş Çalışmaları ve Hükümet Danışmanlığı
Büyük dil modellerinin eğitilmesinde kritik bir teknik olan insan geri bildirimli pekiştirmeli öğrenme yönteminin geliştiricileri arasında yer alan Christiano, 2021 yılında OpenAI'dan ayrılarak Alignment Research Center'ı kurmuştu.
Laboratuvarın duyurusuna göre Christiano, yeni yönetim kurulu görevini yürütürken aynı zamanda hükümete danışmanlık yapmaya devam edecek ancak OpenAI meselelerinden ve model değerlendirmelerinden çekinecek.