Yapay Zeka Uzmanından Çarpıcı İddia: İnsanlığın Sonu Gelebilir
Anthropic firmasının önde gelen araştırmacısı, önümüzdeki on yıl içinde yapay zekanın tüm insanlığı yok etme ihtimalinin yüzde 10'dan fazla olduğunu belirtti.
Önde gelen yapay zeka şirketlerinden Anthropic'in kıdemli araştırmacısı Evan Hubinger, önümüzdeki on yıl içinde yapay zekanın insanlığı ortadan kaldırma ihtimalinin yüzde 10'dan fazla olduğunu dile getirdi. Bu açıklama, şirkette güvenlik uygulamalarını eleştiren bir diğer araştırmacının istifasının hemen ardından geldi.
Yapay Zeka Riskleri Üzerine Çarpıcı Açıklama
Anthropic bünyesinde görev yapan Alignment Science Lead unvanlı Evan Hubinger, sosyal medya üzerinden yaptığı paylaşımda yapay zeka teknolojilerinin gelecekte insanlık için varoluşsal bir tehdit oluşturabileceğini ifade etti. Hubinger, önümüzdeki on yıl içinde bu senaryonun gerçekleşme ihtimalinin yüzde 10'un üzerinde olduğuna inandığını vurguladı.
Süper Zeka ve Hizalama Sorunu
Hubinger açıklamasında, şirketin elinden gelenin en iyisini yapmaya çalıştığını ancak süper zeka adı verilen ve insan zekasını aşması beklenen sistemlerin hizalanması konusunda henüz kesin bir plana sahip olunmadığını ve bu yolda net bir ilerleme kaydedilemediğini belirtti.
Güvenlik Gerekçesiyle Gelen İstifa
Bu dramatik açıklama, Anthropic araştırmacısı Jacob Coxon'ın salı günü gerçekleştirdiği istifanın ardından geldi. Coxon, hem OpenAI hem de Anthropic gibi öncü şirketlerin sorumlu davranmadığını ve kendi kendini geliştiren süper zekaya doğru koşarak insan hayatıyla kumar oynadıklarını öne sürdü.
Sektördeki Diğer Gelişmeler ve Gizlilik
Anthropic şirketi yakın zamanda en son yapay zeka modeli olan Claude Mythos 5.1'i Amerika Birleşik Devletleri dışındaki güvenlik kurumlarıyla paylaşmadığını açıklamıştı. Sektörde ayrıca OpenAI baş bilim insanı Jakub Pachocki'nin aşırı dikkat çağrıları ve çeşitli yapay zeka hackleme olayları da dikkat çekiyor.