New York Şehir Konseyi'nde Yapay Zeka Güvenliği ve Riskleri Tartışıldı
Önde gelen teknoloji şirketlerinin yöneticileri ve eski araştırmacıları, yapay zeka sistemlerinin denetimi ve olası riskleri üzerine düzenlenen bir oturumda katıldı.
New York Şehir Konseyi'nin düzenlediği yapay zeka güvenliği ve denetimi konulu oturumda, önde gelen teknoloji şirketlerinin yöneticileri ile eski araştırmacılar bir araya gelerek sektördeki riskleri, düzenleme ihtiyaçlarını ve güvenlik önlemlerini masaya yatırdı.
Yapay Zeka Oturumu ve Katılımcılar
New York Şehir Konseyi tarafından gerçekleştirilen yapay zeka güvenliği ve gözetimi konulu komite oturumuna sektörün önde gelen isimleri katılım sağladı.
Toplantıda OpenAI, Anthropic, Google ve Meta gibi büyük teknoloji şirketlerinden temsilciler ile eski araştırmacılar yer aldı.
Kontrol ve Düzenleme Tartışmaları
Eski Anthropic ve OpenAI araştırmacısı Jacob Coxon, araştırmacıların yapay zeka sistemlerini tam olarak nasıl kontrol edeceğini henüz tam olarak bilmediğini belirtti.
Uzmanlar, yapay zeka yeteneklerinin gelişme hızının giderek arttığına dikkati çekerek güvenlik endişelerini ve olası yasal çözümleri değerlendirdi.
Göçmenlik Kurumları ve Şirket Araçları
Konsey üyeleri, Google, Anthropic, OpenAI ve Meta temsilcilerini sıkıştıran sorular yönelterek şirket araçlarının ICE ve CBP gibi göçmenlik yetkililerine sunulup sunulmadığını sordu.
Teknoloji şirketlerinin temsilcileri bu konuda detaylı inceleme yaparak konuyla ilgili daha sonra geri dönüş sağlayacaklarını ifade etti.
Sektör İçin Düzenleme Çağrısı
Girişimci ve New York Üniversitesi profesör emeklisi Gary Marcus, teknoloji sektörünü açgözlülük ve duyarsızlıkla suçlayarak sert eleştirilerde bulundu.
Marcus, New York şehrinin şirketlerin kendi kendilerini denetlemesine güvenmek yerine acilen yasal düzenlemeler hayata geçirmesi gerektiğini savundu.
Biyolojik Riskler ve Ürün Güvenliği
Anthropic'ten Logan Graham, tehdit istihbaratı raporlarının bireylerin yapay zekayı biyolojik açıdan riskli faaliyetler için kullanmaya çalıştığını ortaya koyduğunu açıkladı.
Graham, Anthropic'in Claude modelinin risk yüzeyini azaltmak amacıyla reklam çalıştırmaktan ve görsel üretmekten kaçındığını sözlerine ekledi.
Filigranlar ve Hukuki Sorumluluk
Google'dan Alice Friend, yapay zeka içeriklerini etiketlemek için filigran ile meta veri uygulamanın ters tepebileceği konusunda uyarılarda bulundu.
Şirketler yapay zeka ajanlarının her zaman güvenlik sınırlarına uyacağını garanti edemezken, hukuki sorumluluk konusunda mevcut yasal çerçevenin geçerli olduğu vurgulandı.