Yapay Zekanın Uzun Vadeli Etkileri ve Sosyal İzolasyon Riski Araştırılıyor

Cornell Üniversitesinden araştırmacılar Qian Yang, Ned Cooper ve Ibrahim Emara, yapay zeka şirketleri ve yasa koyucuların çoğunlukla ani zararlara odaklandığını, ancak aylar ve yıllar içinde gelişen sosyal izolasyon gibi kümülatif risklerin incelenmesi için daha iyi veri erişimine ihtiyaç duyulduğunu savunuyor.

Yapay zeka şirketleri ve yasa koyucular, kullanıcıların akıl sağlığı ve refahını korumak amacıyla ebeveyn denetimleri, kullanım sınırları, mola hatırlatıcıları ve kriz tespiti gibi çeşitli önlemler hayata geçiriyor. OpenAI ise kullanıcıların sıkıntı belirtilerini oturumlar arasında takip ederek model yanıtlarını buna göre şekillendirdiğini duyurdu. Ayrıca yaklaşık bir düzine eyalet, sohbet robotu işletmecilerinin araçların insan olmadığını kullanıcılara bildirmesini ve kriz yönlendirme prosedürleri uygulamasını zorunlu kılıyor.

Ancak araştırmacılar, bu ilginin neredeyse tamamen ani zararlara yöneltildiğini, zaman içinde kümülatif olarak gelişen risklerin ise göz ardı edildiğini ifade ediyor. Psikoz veya intihar gibi ani zararların tespit edilmesi ve bunlara yanıt verilmesi daha kolayken, bir sohbet robotu her bireysel konuşmasında güvenli olsa bile aylar süren kullanım sonucunda kişilerin arkadaşları ve ailesiyle kurduğu insan ilişkilerinin yerini alabileceği vurgulanıyor.