Yapay zeka whistleblowerdan NYC oturumunda kritik uyarılar

Eski Anthropic araştırmacısı ve whistleblower Jacob Coxon, New York City Konseyi'nin yapay zeka düzenlemeleri ve acil durdurma anahtarları hakkındaki oturumunda, yapay zeka teknolojisinin insanlığın soyunu tüketme riski taşıdığını vurguladı.

Oturumdaki Çarpıcı İddialar

Eski Anthropic araştırmacısı Jacob Coxon, New York City Konseyi'nin pazartesi günü gerçekleştirdiği oturumda yapay zeka şirketlerinin aşırı pervasız bir girişim zihniyetiyle hareket ettiğini ifade etti.

Coxon, araştırmacıların yapay zeka sistemleri üzerindeki tam kontrolü kaybetmeye başladığını ve kodların büyük bir kısmının artık dikkatli denetimler yapılmadan yapay zeka tarafından yazıldığını belirtti.

Diğer Uzmanların Görüşleri

Oturuma katılan eski Google DeepMind araştırmacısı Alex Turner ve eski OpenAI araştırmacısı Daniel Kokotajlo da hızla ilerleyen yapay zekanın yarattığı toplumsal riskler hakkında sanal olarak ifade verdiler.

Turner, yapay zekanın kontrolden çıkma olasılığının yaklaşık üçte bir olduğunu tahmin ederken, Kokotajlo ise teknoloji liderlerine düzenleyici güç verilmemesi konusunda uyarılarda bulundu.

Şirketlerin Katılımı ve Yeni Düzenlemeler

Anthropic, OpenAI, Google ve Meta temsilcileri, Şehir Konseyi'nin celp tehdidinin ardından oturuma katılım sağladılar.

NYC'li politikacılar, şehirdeki yapay zekayı düzenlemek amacıyla acil durdurma anahtarları zorunluluğu ve dış uzman denetimi gibi maddeleri içeren bir yasa paketini tartışıyorlar.