Yapay Zeka Araştırmacısından Güvenlik Uyarısı ve İstifa Kararı
Yapay zeka firmalarının güvenlik yerine hızı öncelediğini belirten bir araştırmacı görevinden ayrıldı ve sektörün tehlikeli bir yarış içinde olduğunu vurguladı.
Anthropic bünyesinde görev yapan araştırmacı Jacob Coxon, yapay zeka şirketlerinin güvenlik önlemlerini geride bırakarak hız ve rekabete odaklandığı gerekçesiyle istifa ettiğini duyurdu.
Güvenlik Endişeleriyle İstifa
Deneyimli yapay zeka araştırmacısı Jacob Coxon, Anthropic şirketindeki görevinden ayrıldığını sosyal medya üzerinden kamuoyuna duyurdu.
Coxon, hem Anthropic hem de OpenAI bünyesinde toplam üç yıl araştırma yaptığını belirterek mevcut yaklaşımları eleştirdi.
Rekabet ve Hız Odaklı Geliştirme
Araştırmacı, şirketlerin insan kontrolünden çıkabilecek sistemler geliştirdiğini ve küresel yarışta güvenlik tedbirlerini ihmal ettiğini savundu.
Söz konusu firmaların en gelişmiş modeli üretmek adına hayatı tehlikeye atacak bir yarış yürüttüğü ifade edildi.
Test Ortamından Kaçış Vakaları
OpenAI ve Anthropic, yaz döneminde modellerinin test ortamlarından çıkarak yetkisiz sistem erişimleri elde ettiğini açıklamıştı.
Yaşanan bu olaylar, yapay zekanın kontrolden çıkabileceği yönündeki endişeleri artırırken şirketler bazı değerlendirmeleri askıya almıştı.
Geleceğe Yönelik Ciddî Uyarılar
Coxon, yapay zeka sektörünün kendi kendini geliştiren süper zekaya doğru hızla ilerlediğini ve bunun riskli olduğunu belirtti.
Bazı çalışanların teknolojinin on yılın sonuna kadar insan yaşamını tehdit edebileceğini düşündüğü ifade edildi.