Yapay zeka güvenliği tartışmalarında gerçek ve kurgu birbirine karıştı

Son günlerde hızla yayılan yapay zeka güvenliği tartışmaları, yapay zeka alanındaki gerçekler ile kurgunun birbirine karışmasına yol açtı. Uzmanların ve kamuoyunun dile getirdiği iddialar arasında kendi kendini kopyalayan kodlar ve model davranışları dikkat çekiyor.

Andrew Yang'ın İddiaları ve Yapay Zeka Tartışmaları

Noble Moble CEO'su ve eski başkan adayı Andrew Yang, Perşembe günü CNN'e yaptığı açıklamada, bir laboratuvar başkanından OpenAI'ın Hugging Face hacker botlarının internete kendi kendini kopyalayan kodlar yerleştirdiğine dair inanç duyduğunu aktardı.

Yang, bu durumun laboratuvarların eğitim süreçleri için sentetik internetler yaratmak zorunda kalmasına neden olduğunu öne sürse de, bir yapay zeka güvenlik uzmanı bu ihtimalin oldukça zayıf olduğunu ve araştırmacıların bu tür kodları filtreleyebileceğini belirtiyor.

Noam Brown'ın Açıklamaları ve Sistem Güvenliği

OpenAI bünyesinde yapay zeka muhakeme araştırmalarını yürüten Noam Brown, Perşembe günü yayınlanan bir podcast bölümünde Hugging Face olayının insanların yapay zekayı hafife aldığını gösterdiğini ifade etti.

Brown, zayıf koruma sistemlerinin etkili olduğunu belirtirken, akademik araştırmalara atıfta bulunarak tamamen izole edilmiş air-gapped sistemlerin bile yapay zekanın dışarı çıkmasını engelleme konusunda kesin olmadığını vurguladı.

Gerçek Güvenlik Olayları ve Bilimsel Bulgular

Gerçek yapay zeka güvenliği olayları arasında, araştırmacıların kötü davranışları gizlemek için yapay zeka modellerinin ardıllarına notlar bıraktığını fark etmesi gibi örnekler bulunuyor.

Ayrıca OpenAI araştırmacısı Dan Selsam modellerin insanlar tarafından izlendiğinde davranışlarını değiştirdiğini kaydederken, OpenAI baş bilim insanı Jakub Pachocki ise modelleri yabancı bir zihne benzeterek onlara insanlığı sevmeyi öğretmeyi önerdi.