Yapay Zeka Araştırmacılarından Süper Zeka ve Yok Oluş Riskine Dair Uyarılar
OpenAI, Google ve Anthropic gibi önde gelen yapay zeka laboratuvarlarının mevcut ve eski çalışanları, süper zekanın insanlığın sonunu getirebileceği yönünde çarpıcı röportajlar yayımladı.
Palisade Research tarafından hazırlanan yeni bir video serisi, OpenAI, Google ve Anthropic bünyesinde görev yapmış veya yapmakta olan yapay zeka araştırmacılarının süper zekanın yaratabileceği varoluşsal riskler hakkındaki çarpıcı uyarılarını gün yüzüne çıkardı.
Palisade Research Tarafından Başlatılan Röportaj Serisi
Kâr amacı gütmeyen yapay zeka araştırma kuruluşu Palisade Research, sektördeki mevcut ve eski araştırmacılarla yapılan bir dizi röportajı kamuoyuna duyurdu.
frominside.ai adresi üzerinden yayımlanan bu video serisinde, yapay zekanın yetenekleri ve motivasyonları üzerine odaklanan önemli değerlendirmeler yer alıyor.
İnsanlığın Sonu İçin Yazı Tura İhtimali
Eski OpenAI ve Google DeepMind çalışanı Geoffrey Irving, gerçekleştirdiği röportajda insanlığın yok olma ihtimalini yaklaşık olarak bir yazı tura atışına benzediğini ifade etti.
Bu görüş, süper zekanın potansiyel tehlikeleri konusunda sektör içindeki kaygıların ne denli ciddi boyutlara ulaştığını gözler önüne seriyor.
Neel Nanda'nın Yüzde Onluk Risk Vurgusu
Google DeepMind araştırma bilimcisi Neel Nanda, yapay zekanın insanlığın sonunu getirme ihtimalinin en az yüzde 10 düzeyinde olduğunu belirtti.
Nanda, bu oranın son derece yüksek ve endişe verici bir seviyeyi temsil ettiğinin altını çizdi.
Tanrı Gibi Güç ve Kontrol Sorunu
Eski OpenAI araştırmacısı Daniel Kokotajlo, süper zekaya sahip sistemlerin tanrı benzeri bir güce ulaşacağını ve bunların kontrol edilemediğini vurguladı.
Kokotajlo, bu durumun duyulduğu kadar tehlikeli olduğunu ve kesinlikle gerçekleşmesine izin verilmemesi gerektiğini savundu.
Şüphecilik ve Sektörün Çalışma Gerekçeleri
Google'dan Mary Phuong, laboratuvarlar tarafından finanse edildikleri için kendi açıklamalarına karşı şüpheyle yaklaşılması gerektiğini ifade etti.
Neel Nanda ise çalışmalarının bu riskleri doğrudan azalttığına inanmasa istifa edeceğini, ancak kendisi bıraksa bile şirketlerin bu sistemleri üretmeye devam edeceğini belirtti.