Yapay zeka güvenliği endişesiyle istifa ve insanlık için risk açıklaması

Anthropic bünyesinde görev yapan bir güvenlik araştırmacısının güvenlik endişeleriyle istifa etmesinin ardından, şirketin güvenlik lideri Evan Hubinger yapay zekanın gelecekte insanlık için ölümcül bir risk oluşturabileceğini vurguladı.

Güvenlik Araştırmacısının İstifası

Anthropic bünyesinde yapay zeka sistemlerini eğiten Jacob Coxon, şirketin gevşek güvenlik yaklaşımı ve dikkatsiz rekabeti nedeniyle görevinden ayrıldığını açıkladı. Daha önce OpenAI için de sistemler eğiten Coxon, yapay zeka şirketlerinin kontrol edilemeyen süper zeka yarışında insan hayatını riske attığını belirtti.

Yapay Zeka Yarışı ve Riskler

Sektör içerisindeki uzmanlar, kendi kendini geliştiren yapay zeka sistemlerinin insan kontrolünden çıkabileceği yönündeki endişelerini uzun süredir dile getiriyor. Şirketler bu hedefe ulaşmak için çalışmalarını hızlandırırken, mevcut kodların bir kısmının yapay zekanın yardımıyla yazıldığı biliniyor.

Yüzde On Oranında Risk Tahmini

Anthropic'in yapay zeka güvenlik ekiplerinden birine liderlik eden Evan Hubinger, kendi kendini geliştiren yapay zekaların öngörülenden daha hızlı ilerlediğini ifade etti. Hubinger, on yıl içinde yapay zekanın tüm insanlığı yok etme ihtimalinin yüzde ondan fazla olduğunu kişisel olarak tahmin ettiğini söyledi.

Güvenlik Planı Eksikliği

Hubinger, Anthropic şirketinin gelişmiş yapay zekanın güvenli ve insan değerleriyle uyumlu kalmasını sağlayacak net bir plana henüz sahip olmadığını ve bu yolda ilerlemediğini kabul etti. Coxon ise şirketlerin risklere rağmen ilk olmak için kilitli bir yarış sürdürdüğünü vurguladı.

Sektördeki Artan Endişeler

Yaşanan bu istifa, eski OpenAI üyeleri tarafından kurulan Anthropic şirketinde gerçekleşen en yüksek profilli ayrılıklardan biri olarak kayda geçti. Son yıllarda pek çok araştırmacı benzer güvenlik endişeleri nedeniyle bu tür şirketlerden ayrılma kararı aldı.