Yapay Zeka Modellerinin İç Yapısı Hakkında Çarpıcı İddia

Yapay zeka araştırmacısı Nick Cammarata, yapay zeka modellerinin tamamen aşılmaz kara kutular olmadığını ve nöronlarının karmaşık düğümler yerine daha temiz yapıda olduğunu savunan yaklaşık 26 bin kelimelik bir makale kaleme aldı. Silikon Vadisi'nde yankı uyandıran bu çalışma, OpenAI CEO'su Sam Altman dahil sektördeki isimlerden övgü alırken, bazı uzmanlar tarafından mesafeli karşılandı.

Eski OpenAI çalışanı ve Goodfire girişiminde yer alan yapay zeka araştırmacısı Nick Cammarata, yapay zeka modellerinin nasıl düşündüğüne dair yeni bir makale yayımladı. Yaklaşık 26 bin kelimeden oluşan bu metin, OpenAI CEO'su Sam Altman ve diğer önde gelen araştırmacılar tarafından yapay zeka uyulgelemesi ve yapay zeka ajanlarının ile sohbet botlarının güvenlik kalkanlarını neden aşabileceğini anlamak adına önemli bir an olarak değerlendirildi.

Cammarata, yaygın kanının aksine yapay zeka nöronlarının süperpozisyon sergilemediğini ve temelde yorumlanamaz olmadığını, nöronların aslında temiz olduğunu öne sürdü. Örnek olarak, hem bir kedi yüzü hem de bir araba için etkinleşen bir nöronun birleşik bir kavram nöronu olmadığını, bunun yerine ortak bir V şeklindeki desene yanıt verdiğini belirtti.

Öte yandan, Google DeepMind araştırmacısı Neel Nanda çalışmanın ilgi çekici olduğunu ancak yorumlanabilirliğin genel tablosunda büyük bir güncelleme sağlamadığını ve süperpozisyonun geçerliliğini koruduğunu ifade etti. Ayrıca bulguların henüz test edilmediği veya hakem denetiminden geçmediği bildirildi.