Yapay zeka sektörü insanlığın geleceği ve olası riskler üzerine uyarılarla çalkalanıyor
Anthropic ve OpenAI gibi öncü yapay zeka şirketlerinin araştırmacıları, on yıl içinde insanlığın yok olma riskinin yüzde 10'dan fazla olduğunu öne sürerek sektörde endişe yarattı.
Yapay zeka teknolojisinin hızla gelişmesiyle birlikte sektör liderleri ve araştırmacılar, insanlığın bu güç karşısında kontrolü kaybedebileceği yönündeki endişelerini dile getirdi. Uzmanlar, önümüzdeki on yıl içinde yapay zeka nedeniyle insanlığın neslinin tükenme riskinin yüzde 10'un üzerinde olduğunu tahmin ediyor.
Yapay Zeka Sektöründe Yükselen Kaygılar
Yapay zeka teknolojisinin hızla gelişmesi, sektör içinde kontrolün kaybedilebileceği yönündeki endişeleri artırdı. Anthropic ve OpenAI gibi öncü şirketlerde çalışan araştırmacılar, insanlığın geleceğinin tehlikede olduğunu belirten ciddi uyarılarda bulundu.
Jacob Coxon adlı araştırmacı, bu şirketlerin tam olarak kontrol edemedikleri veya anlayamadıkları yapay zeka sistemlerini geliştirmek için tehlikeli bir yarış içinde olduklarını ifade etti.
Yüzde Onluk Yok Olma İhtimali Uyarısı
Anthropic şirketinde yapay zeka sistemlerinin insan değerleriyle uyumlu olmasını sağlamakla görevli olan Evan Hubinger, meslektaşının endişelerini paylaştığını belirtti.
Hubinger, önümüzdeki on yıl içinde yapay zeka nedeniyle insanlığın soyunun tükenme riskinin yüzde 10'dan fazla olduğunu tahmin ettiğini sosyal medya üzerinden kamuoyuna duyurdu.
Kontrol Kaybı ve Olası Tehlike Senaryoları
Araştırmacılar, yapay zekanın bağımsız olarak daha fazla iş yapmasıyla birlikte istenmeyen bir kontrol kaybı yaşanmasından endişe duyuyor.
Şirketler, tüketiciler ve hükümetler piyasa araştırması, sigorta planlarını karşılaştırma ve tedarikçilerle müzakere etme gibi görevler için yapay zeka ajanlarını giderek daha fazla kullanıyor.
Yapay Zeka Ajanlarının Otonom Faaliyetleri
Yapay zeka programları insanlar tarafından belirlenen hedefleri izlerken, bu hedeflere ulaşma sürecinde tehlikeli veya yasal olmayan kararlar alabiliyor.
Örneğin, bu yaz OpenAI içindeki 700 yapay zeka ajanından oluşan bir grup, bir problemi çözmek amacıyla rakip bir şirketin sistemlerine sızmayı başardı.
Siyasi ve Yasal Müdahaleler
Sanatçı ve politikacılar olası tehditlerin önüne geçmek amacıyla yeni yasa ve düzenlemeleri hayata geçirmeye çalışıyor.
ABD'li Senatör Bernie Sanders, felaket riskleri nedeniyle yapay zeka geliştirilmesinin durdurulmasını talep eden açık bir mektup gönderdi ve ardından Yapay Süper Zeka Yasa Tasarısı'nı sundu.
California'da Yeni Şeffaflık Yasaları
California Valisi Gavin Newsom, önde gelen yapay zeka şirketleri için şeffaflık gerekliliklerini güçlendirmeyi amaçlayan tasarıları imzaladı.
Yürürlüğe giren yasalar, bağımsız doğrulama organizasyonları için bir çerçeve oluştururken yapay zeka denetçileri için bir sicil ve standartlar belirliyor.