Yapay Zeka Sektör Çalışanlarından New York Konseyi'ne Güvenlik Uyarısı
Yapay zeka firmalarının eski çalışanları, New York City Konseyi'ne başvurarak teknolojinin oluşturabileceği varoluşsal tehlikelere dikkat çekti ve yerel düzeyde denetim talep etti.
Yapay zeka sektörünün önde gelen şirketlerinden ayrılan eski çalışanlar, New York City Konseyi'nin düzenlediği oturumda bir araya gelerek kontrolsüz teknoloji yarışına karşı yerel yönetimlerin denetim mekanizmaları oluşturmasını istedi.
Oturumda Yapılan Kritik Uyarılar
Anthropic, OpenAI ve Google DeepMind gibi büyük yapay zeka şirketlerinden yakın zamanda ayrılan eski çalışanlar, New York City Konseyi liderlerine teknolojinin getirdiği potansiyel riskleri anlattı.
Kontrolsüz Teknoloji ve Sektör Kültürü
Eski çalışanlar, teknoloji devlerinin kontrol etmeyi henüz tam olarak öğrenemedikleri sistemleri üretmek için acele ettiğini ve sektörde pervasız bir kültürün hakim olduğunu vurguladı.
Şeffaflık ve Güvenlik Vurgusu
Anthropic'in eski mühendisi Jacob Coxon, yeterli şeffaflık ve güvenlik önlemleri alınmadığı takdirde insanlığın gelişmiş yapay zeka üzerindeki kontrolünü kaybetme riskiyle karşı karşıya kalacağını ifade etti.
Yerel Yönetimlerin Harekete Geçmesi
Federal yaklaşımın büyük ölçüde pasif kalması nedeniyle eyalet ve şehir hükümetleri, artan güvenlik endişelerine karşılık vermek üzere yeni düzenleme seçeneklerini değerlendirmeye başladı.
Teknoloji Devlerinin Savunması
Oturum sırasında OpenAI ve Anthropic gibi şirketlerin temsilcileri, yapay zeka güvenliğine olan bağlılıklarını savunurken Newalty City Konseyi denetimi artırmaya yönelik çeşitli teklifleri masaya yatırdı.