Yapay Zeka Şirketlerinin Güvenlik Uyarıları ve Düzenleme Arayışları

Anthropic ve OpenAI üst düzey yöneticileri, gelişmiş yapay zeka modellerinin tehlikelerine dikkat çekerek düzenleme ve bağımsız test çağrısında bulundu. Uzmanlar ise bu hamlelerin pazar kontrolünü şekillendirmeyi amaçladığını belirtiyor.

Yapay Zeka Güvenlik Uyarıları

OpenAI ve Anthropic yöneticileri, en gelişmiş yapay zeka modellerinin tehlike arz ettiğini belirterek bu sistemlerin piyasaya sürülmeden önce sıkı düzenlemelere ve bağımsız testlere tabi tutulması gerektiğini savundu.

Şirket liderleri, Birleşmiş Milletler nezdinde, makaleler aracılığıyla ve sosyal medya üzerinden endişe verici senaryolar paylaşarak teknolojinin nasıl kontrol edilmesi gerektiğina dair tartışmaları yönlendirdi.

Birleşmiş Milletler Zirvesi

OpenAI CEO'su Sam Altman, Birleşmiş Milletler Genel Kurulu kapsamındaki yapay zeka güvenliği oturumuna katıldı. Anthropic CEO'su Dario Amodei ile Hugging Face CEO'su Clément Delangue ise toplantıya uzaktan katılım sağladı.

Teknoloji liderleri, kendi gelişmiş sistemlerinin insanlığı tehlikeye atabileceği yönünde uyarılarda bulunurken, toplantıda atılacak adımlar masaya yatırıldı.

Sektörel ve Siyasi Tartışmalar

Analistler, uzmanlar ve eski hükümet değerlendiricileri, bu güvenlik adımlarının kamuoyunun desteğini kazanma ve denetlenmeyen bir pazarda kendi güvenlik protokollerinin koşullarını belirleme amacı taşıdığını ifade etti.

Başkan Donald Trump yeni yapay zeka düzenlemelerine karşı çıkarken, yönetimden David Sacks yavaşlama çağrılarının korku yayma amacı taşıdığını savundu; bazı Demokrat valiler ise uyarıları ciddiye alıyor.

Halka Arz ve Şirket İçi Gelişmeler

Anthropic mühendisi Jacob Coxon, kontrol edilemeyen süperinsan sistemlerin önlenmesi için teknoloji geliştirme süreçlerine ara verilmesi çağrısıyla görevinden ayrıldı.

Şirketler, Wall Street üzerindeki halka arz hazırlıkları sürerken bu tür istifaları ve güvenlik adımlarını kendi güvenlik sicillerini öne çıkarmak için kullandı.