Yapay zeka güvenliği ve süper zeka tartışmaları

ControlAI ABD İcra Direktörü ve yapay zeka araştırmacısı Connor Leahy, TechCrunch'ın Equity podcast programında Rebecca Bellan'ın konuğu olarak süper zeka geliştirilmesinin durdurulması yönündeki radikal çağrıları ve yasal girişimleri değerlendirdi.

Yapay Zeka Güvenlik Riskleri

Yapay zeka şirketleri süper zeka sistemlerinin kaçınılmaz olduğunu savunurken, OpenAI'ın Hugging Face veri ihlali gibi son güvenlik olayları, insanlardan daha yetenekli sistemlerin tehlikelerini açıkça ortaya koymaktadır.

Mevcut güvenlik yaklaşımlarının riskleri yönetmekte yetersiz kaldığı ve daha köklü önlemlerin alınmasının kaçınılmaz hale geldiği belirtiliyor.

Süper Zeka ve Yasal Girişimler

ControlAI örgütü, şirketlerin süper zeka teknolojisi geliştirmesini tamamen durdurmaya yönelik radikal bir güvenlik yaklaşımını savunmaktadır.

Connor Leahy, Sanders-Casar tarafından hazırlanan Süper Zekayı Yasaklama Yasası ve Birleşik Krallık'taki benzer yasal düzenlemeler hakkında değerlendirmelerde bulundu.

Süper Zekanın Bir Rakip Olarak Görülmesi

Connor Leahy, sınırlardaki yapay zeka laboratuvarlarını sıradan ticari işletmelerden ziyade politik aktörler olarak değerlendirmektedir.

Leahy, süper zekanın basit bir silahtan öte insanlık için bir rakip niteliği taşıdığına dikkat çekiyor.