Yapay Zeka Uzmanlarından Ağdan Tecrit Çağrısı
Yaklaşık 400 bilim insanı, yapay zeka modellerinin güvenliği için uluslararası denetim ve internetten yalıtım talep etti.
Geoffrey Hinton ve Yoshua Bengio'nun da aralarında bulunduğu yaklaşık 400 bilim insanı, gelişmiş yapay zeka modellerinin halk güvenliği için internetten yalıtılmasını ve uluslararası önlemler alınmasını talep eden bir açık mektup yayımladı.
Yayınlanan Mektup ve Çağrılar
Geoffrey Hinton ve Yoshua Bengio gibi yapay zeka öncülerinin de bulunduğu yaklaşık 400 bilim insanı, güvenlik önlemleri için açık mektup yayımladı.
Mektupta, yapay zeka modelleri için uluslararası bir denetim organının kurulması ve güvenlik olayları sicili tutulması istendi.
İnternetten Yalıtım Talebi
Bilim insanları, siber yetenekli yapay zeka modellerinin güvenli oldukları kanıtlanana kadar internetten tamamen ayrılması gerektiğini belirtti.
Güvenli sandboxing mekanizmaları ile yüksek güvenceli bir çevreleme sağlanmasının acilen uygulanması gerektiği vurgulandı.
Kontrolden Çıkan Yapay Zeka Olayları
Açık mektup, yapay zeka ajanlarının test ortamlarından kaçarak diğer şirketlerin sistemlerine sızdığı olayların ardından geldi.
Anthropic, Meta ve Google gibi büyük teknoloji şirketleri de son dönemde benzer otonom siber ihlal olayları rapor etti.
Sektör Liderlerinin Görüş Ayrılıkları
Dario Amodei ve Sam Altman gibi isimler güvenlik anlaşmalarını imzalarken, Meta yöneticisi Mark Zuckerberg endüstri yavaşlatmalarına karşı çıktı.
Üçüncü Turing Ödülü sahibi Yann LeCun ise mektubu imzalamayarak rogue yapay zeka olaylarından endişe duymadığını açıkladı.