Yapay zeka şirketleri olası kriz senaryolarına hazırlanıyor
Anthropic ve OpenAI yöneticileri, büyük bir yapay zeka kazasının ardından yaşanabilecek olası toplumsal tepkilere karşı hazırlık yapıyor.
Anthropic ve OpenAI gibi sektörün önde gelen yapay zeka şirketlerinin yöneticileri, büyük ölçekli bir yapay zeka kazası durumunda ortaya çıkabilecek kamuoyu ve siyaset tepkilerine karşı özel senaryolar üzerinde çalışıyor.
Kriz Senaryoları ve Olası Riskler
Sektör yöneticileri, finansal hizmetlere, internete, elektrik veya su kaynaklarına erişimi kesebilecek büyük çaplı bir siber saldırı gibi senaryoları özel olarak modellemektedir.
Tehlikeli yapay zeka sistemlerinin yol açacağı ilk büyük gerçek dünya zararı, kamuoyunun ve liderlerin teknolojiye karşı duruşunu daha da sertleştirecektir.
Siyasi Etkiler ve Kongre Süreci
Bu senaryolara hazırlık sürecinde özellikle ABD Kongresi ile olan ilişkiler ve olası siyasi dengeler yakından takip edilmektedir.
Kasım ayındaki ara seçimlerin ardından Demokratların Kongre'deki konumunun güçlenebileceği ve bu durumun daha katı yapay zeka düzenlemelerini gündeme getirebileceği belirtilmektedir.
Düzenleme Önerileri ve Acil Durum Mekanizmaları
Demokratların daha radikal teklifleri arasında süper zeka oluşturulmasının yasaklanması ve gelişmiş yapay zeka modellerinin geliştirilmesinin askıya alınması yer almaktadır.
Gelişmiş yapay zeka modellerinin acil durum kapatma mekanizmasıyla donatılması fikri her iki partiden temsilcinin desteğini alsa da uzmanlar bu sistemlerin tamamen kapatılabileceği konusunda şüphelidir.