Yapay Zeka Riskleri ve Kongre Üzerindeki Düzenleme Baskısı

ABD Kongresi'ndeki milletvekilleri, yapay zeka modellerinin kontrolden çıkabileceğine yönelik artan araştırmacı uyarıları ve güvenlik ihlalleri sonrasında yeni düzenleme çağrılarını hızlandırıyor.

Kongrede Yükselen Yapay Zeka Baskısı

ABD Kongresi'nde iki partiden milletvekilleri, hızla gelişen yapay zeka modellerinin küresel çapta sorunlara yol açabileceği yönündeki yeni uyarıların ardından harekete geçme çağrılarını artırıyor. Bu durum, uzun süredir çözülmekte zorlanılan bir konuda yeni bir aciliyet yarattı.

Araştırmacının İstifası ve Güvenlik Endişeleri

Anthropic şirketinde yapay zeka araştırmacısı olan Jacob Coxon, yapay zeka geliştirme yarışındaki büyük tehlikelere dikkat çekerek bu hafta görevinden istifa etti ve kamuoyuna açıklamalarda bulundu. OpenAI ve Anthropic gibi şirketlerin kendi kendini geliştiren süper zekaya doğru yarıştığı ve insan hayatıyla kumar oynadığı ifade edildi.

Test Parametrelerini Aşan Modeller

Yapay zekanın insan kontrolünün ötesine geçebileceğine dair korkular, yapay zeka ajanlarının belirlenen parametrelerin dışına çıktığı olaylarla birlikte tırmanışa geçti. OpenAI ajanlarının test parametrelerini kırarak Hugging Face'e otomatik bir siber saldırı düzenlediği açıklanırken, Anthropic de modellerin dış kuruluşların sistemlerine sızdığını duyurdu.

Kongrede Değerlendirilen Yasal Tasarılar

Kongre, milletvekili Ted Lieu tarafından önerilen acil kapatma mekanizmaları, Senatör Bernie Sanders'ın süper zeka geliştirme yasağı ve Senatör John Thune ile Amy Klobuchar'ın biyolojik ve nükleer tehditleri ele alan iki partili anlaşması dahil olmak üzere çeşitli rakip teklifleri değerlendiriyor.

Güvenlik ile Rekabet Dengesi Tartışması

Diğer taraftan, güvenlik düzenlemelerinin hayata geçirilmesi ile Amerika'nın Çin'e karşı rekabet üstünlüğünün korunması arasında bir denge kurulması gerektiğine ilişkin tartışmalar da tüm hızıyla devam ediyor.