Yapay Zeka Teknolojisinin Denetimi İçin Bağımsız Küresel Kurul Önerisi
St. Thomas Üniversitesi'nden yapay zeka etiği uzmanı Manjeet Rege, teknolojinin hızlı gelişimi ve olası risklere karşı bağımsız bir küresel denetim mekanizmasının şart olduğunu belirtti.
Yapay zeka teknolojisinin hızla gelişmesi ve kontrolden çıkma riskleri tartışılırken, St. Thomas Üniversitesi'nden uzmanlar küresel ölçekte bağımsız bir denetim organının kurulması çağrısında bulundu.
Yapay Zekada Hızlı Gelişim ve Riskler
Ülkenin önde gelen yapay zeka şirketlerinin yöneticileri, Anthropic'ten ayrılan iki eski araştırmacının sistemlerin çok hızlı güçlendiği ve insanlığın hayatta kalmasını tehdit edebileceği yönündeki endişelerini paylaşmasının ardından küresel bir yavaşlama çağrısında birleşiyor.
Özerk Yapay Zeka Ajanları ve Tartışmalar
St. Thomas Üniversitesi Uygulamalı Yapay Zekâ Merkezi Direktörü Manjeet Rege, soruları yanıtlayan sistemlerden plan yapabilen, karar verebilen ve yazılım kullanabilen özerk yapay zeka ajanlarına geçişin risk algısını tamamen değiştirdiğini ifade etti.
İnsan Kötüye Kullanımı ve Kontrol Kaybı
Araştırmacılar, siber saldırılar veya manipülasyon gibi insan kaynaklı kötüye kullanım senaryoları ile son derece yetenekli bir sistemin hedefleri istenmeyen biçimlerde takip ettiği kontrol kaybı durumu olmak üzere iki geniş senaryodan endişe duyuyor.
Küresel ve Bağımsız Denetim İhtiyacı
Manjeet Rege, her yapay zeka kullanımını düzenlemeye çalışmak yerine riske dayalı bir düzenlemeyi savunurken, teknolojinin küresel olarak geliştirilmesi nedeniyle tek bir ülkenin kısıtlamalarının yetersiz kalacağını ve bağımsız bir organın şart olduğunu vurguladı.