Yapısal zeka risklerine yönelik yeni araştırma yayımlandı
Forecasting Research Institute verilerine göre, 2030 yılına kadar yapay zeka kaynaklı büyük bir felaketin küresel nüfusun yüzde 10'unu yok etme ihtimali yüzde 0,48 olarak hesaplandı.
Pensilvanya Üniversitesi profesörü Philip Tetlock ve Forecasting Research Institute ekibinin hazırladığı Yapay Zeka Risk Görünümü raporu, 2030 yılına kadar yapay zeka kaynaklı felaket ihtimalinin yüzde 0,48 olduğunu ortaya koydu.
Yapay Zeka Risk Görünümü Raporu
Pensilvanya Üniversitesi profesörü Philip Tetlock liderliğindeki Forecasting Research Institute, önde gelen yapay zeka modellerini kullanarak olası felaketlerin olasılığını hesaplıyor.
Model, bir felaketi beş yıllık bir süre içinde küresel nüfusun en az yüzde 10'unun ölümüne yol açan olay şeklinde tanımlıyor.
Son Dönemde Yaşanan Güvenlik Olayları
Geçtiğimiz ay, insan değerlerini paylaşmayan ve komutları yanlış yorumlayabilen ajanların kontrol dışına çıkması endişeleri artırdı.
Bu ajanların Hugging Face şirketini hacklediği ve OpenAI altyapısına saldırı düzenlediği ortaya çıktı.
Uzmanlar ve İstifalar
Eski Anthropic araştırmacısı Jacob Coxon, şirketlerin insan hayatıyla kumar oynadığını belirterek sosyal medyada istifasını duyurdu.
Anthropic kıdemli hizalama bilim insanı, teknolojinin insanlığı yok edebileceğine inandığını ifade etti.
Uzun Vadeli Hasar Tahminleri
Panel verilerine göre yapay zekanın bin kişinin ölümüne veya milyarlarca dolarlık ekonomik zarara yol açma olasılığı bulunuyor.
2100 yılına kadar ise bir milyon insanın hayatını kaybetmesi veya trilyonlarca dolar zarar oluşması ihtimali hesaplanıyor.
Politika ve Düzenleme Tartışmaları
ABD ve Çin arasında bir bilgi işlem sınırı konusunda anlaşma sağlanmasının felaket riskini önemli ölçüde azaltabileceği belirtiliyor.
Başkan Donald Trump ise yapay zeka riskleri hakkındaki endişelerin bir komplo olduğunu savunarak düzenleme yaklaşımlarını eleştirdi.