OpenAI'nin yeni akıl yürütme tekniği yapay zeka güvenliği uzmanlarını endişelendirdi

OpenAI'nin yeni Astra modelinde kullanacağı bildirilen ve sıralı düşünce yapısının dışına çıkılmasına olanak tanıyan yeni akıl yürütme tekniği, yapay zeka güvenliği uzmanlarının tepkisini çekti.

Tekrarlayan Derinlik Tekniği

OpenAI'nin yeni Astra modelinin, geleneksel akıl yürütme modellerini karakterize eden sıralı düşüncenin dışında çalışmasına olanak tanıyan tekrarlayan derinlik adlı bir teknik kullanacağı bildirildi.

Uzmanların Endişeleri

Şeffaf olmayan yineleme olarak da adlandırılan bu yaklaşım, modelin düşünce zincirinin izlenmesini zorlaştırabileceği için yapay zeka güvenliği uzmanları arasında ciddi endişelere neden oldu.

Düşünce Zinciri İzlenebilirliği

Normal şartlarda bir modelin düşünce zinciri, sorun çözme sürecinde atılan sıralı adımları gösterirken, bu yeni yöntemde aynı sorgu bir döngü içinde defalarca işlenerek daha az okunabilir iz bırakıyor.

Gelecek Yasal Düzenlemeler

Uzmanlar, bu tür tekniklerin laboratuvarlar arasında tehlikeli bir rekabete yol açmasını önlemek amacıyla yasal düzenlemelerin gerekli olabileceğine dikkat çekiyor.