Yapay zeka güvenliği araştırmacısından varoluşsal risk uyarısı
Anthropic araştırmacısı Evan Hubinger, teknolojinin hızı nedeniyle önümüzdeki on yılda insanlığın yok olma riskinin yüzde onu aştığını ifade etti.
Anthropic şirketinin güvenlik araştırmacısı Evan Hubinger, yapay zekanın kaydettiği hızlı gelişim sonucunda önümüzdeki on yıl içinde tüm insanları ortadan kaldırma ihtimalinin yüzde 10'dan fazla olduğunu dile getirdi.
Yapay Zeka Gelişimine Dair Riskler
Anthropic bünyesinde görev yapan güvenlik araştırmacısı Evan Hubinger, yapay zekanın çok hızlı bir şekilde ilerleme kaydettiğini vurguladı. Hubinger, önümüzdeki 10 yıllık süreç içerisinde tüm insanları yok etme ihtimalinin yüzde 10'un üzerinde olduğuna inandığını belirtti.
Mevcut Modeller ve Süper Zeka Endişesi
Sosyal medya platformu X üzerinden bir açıklama yapan Hubinger, mevcut yapay zeka modellerinden kaynaklanan risk seviyesinin şu an için düşük düzeyde olduğunu ifade etti. Ancak teknolojinin kısa süre içerisinde gelişerek kendini iyileştirebileceğine ve insanlık açısından varoluşsal bir tehlike oluşturabileceğine dair derin endişeler taşıdığını kaydetti.
Uyum Sorunu ve Model Gizliliği İddiaları
Hubinger, şirketinin elinden gelenin en iyisini yapmaya gayret ettiğini ancak süper zeka aşamasında ortaya çıkabilecek uyum sorununu çözecek net bir planlarının henüz bulunmadığını dile getirdi. Diğer taraftan, Financial Times gazetesinde yer alan haberde Anthropic'in en son modelini İngiltere Yapay Zeka Güvenliği Enstitüsü'nden gizlediği iddia edildi.