Yapay Zeka Şirketinde Güvenlik İstifası ve Risk Tartışması
Bir Anthropic araştırmacısının yapay zekanın insanlığın sonunu getirme ihtimalinin yüzde 10'dan fazla olduğunu belirtmesi, sektördeki güvenlik kaygılarını artırdı.
Anthropic bünyesinde görev yapan bir araştırmacı, yapay zekanın önümüzdeki on yıl içinde tüm insanları öldürme ihtimalinin yüzde 10'dan fazla olduğunu ifade etti. Bu açıklama, bir çalışanın şirketlerin insan hayatını tehlikeye attığı gerekçesiyle istifa etmesinin ardından geldi.
İstifa Eden Araştırmacının Açıklamaları
Jacob Coxon adlı Anthropic araştırmacısı, ne Anthropic ne de OpenAI şirketlerinin sorumlu hareket ettiğini belirterek görevinden ayrıldığını duyurdu. Coxon, bu labaratuvarların kendi kendini geliştiren süper zekaya doğru koştuğunu ve insan hayatıyla kumar oynadığını ifade etti.
Süper Zeka ve Öz İyileştirme Süreci
Öz iyileştirme, yapay zeka sistemlerinin insan müdahalesi olmadan kendilerini geliştirmesi fikrine dayanıyor. Her ne kadar özyinelemeli öz iyileştirme henüz mümkün olmasa da yapay zeka laboratuvarları bu hedefe ulaşmak için çalışmalarını sürdürüyor.
Yapay Zeka Güvenlik Uzmanının İtirafı
Coxon'un iddialarının ardından Anthropic uyum bilimi lideri Evan Hubinger, yapılan değerlendirmenin doğru olduğunu ve şirketin süper zeka hizalamasını çözmek için henüz bir plana sahip olmadığını sosyal medyada paylaştı.
Sektördeki Kontrol Endişeleri
Yapay zekanın kontrolden çıkabileceği yönündeki endişeler uzun süredir dile getiriliyor. Daha önce OpenAI modelinin bir güvenlik açığı oluşturması ve Elon Musk gibi isimlerin uyarıları, sektördeki risklerin büyüklüğünü gözler önüne seriyor.