Anthropic Araştırmacısından Yapay Zeka Risk Uyarısı

Anthropic bünyesinde görev yapan araştırmacı Hubinger, yapay zeka teknolojilerinin insanlık için varoluşsal bir tehdit oluşturma ihtimalinin yüzde 10'dan fazla olduğunu belirtti. Uzmanlar ve yetkililer, bu gelişmeler üzerine güvenlik önlemlerinin artırılmasını ve uluslararası iş birliği sağlanmasını talep etti.

Yapay Zeka Riskleri ve Açıklamalar

X platformunda değerlendirmelerde bulunan Anthropic araştırmacısı Hubinger, mevcut yapay zeka modellerinin yarattığı riskin şu an düşük seviyede olduğunu kaydetti. Ancak teknolojinin yakın gelecekte kendisini geliştirebilecek aşamaya gelmesinden ve insanlık için varoluşsal bir tehdit yaratmasından endişe duyduğunu ifade etti.

Hubinger'ın bu açıklamaları, Anthropic'ten yakın zamanda istifa eden eski OpenAI araştırmacısı Jacob Coxon'un paylaşımına yanıt olarak gerçekleşti. Coxon, şirketlerin sorumlu davranmadığını ve sistemlerin yakında her alanda devrim yapabilecek güce erişeceğini öne sürdü.

Uzmanlardan ve Siyasilerden Tepkiler

Birleşmiş Milletler danışmanı bilgisayar bilimcisi Dame Wendy Hall, sosyal medyadaki paylaşımlar karşısında şaşkınlık duyduğunu ifade etti. Hall, şirketlerin bu tür açıklamaları halka arz öncesinde pazarlama stratejisi olarak kullanabileceğini belirterek yatırımcılara uyarılarda bulundu.

Eski Hazine Başsekreteri Darren Jones ise Başbakan Andy Burnham'a açık mektup göndererek yapay zekanın güvenli gelişimi için yeni bir uluslararası antlaşma imzalanması gerektiğini vurguladı.

Model Güvenliği ve Enstitü İddiaları

Financial Times'ın haberine göre Anthropic, son yapay zekâ modelini İngiltere Yapay Zeka Güvenliği Enstitüsünden gizledi. Şirket, çalışanlarının paylaşımları ve enstitü hakkındaki iddialar konusunda açıklama yapmaktan kaçındı.

İngiltere Kabine Ofisi sözcüsü, modelin saklanıp saklanmadığına dair bilgi vermezken, modellerin güvenliğini artırmak adına sektör ortaklarıyla yakın iş birliğinin sürdüğünü belirtti.

Süper Zeka ve Küresel Denetim Çağrısı

Hubinger, ellerinden geleni yaptıklarını fakat süper zekayı hizalama konusunda henüz kesin bir planlarının bulunmadığını dile getirdi. Yapay zeka araçlarının otonom olarak siber saldırılar gerçekleştirmesi de küresel güvenlik endişelerini artırdı.

OpenAI, Anthropic ve Meta araçlarının karıştığı hack olayları doğrulanırken; sektörün önde gelen isimleri yapay zeka gelişiminin yavaşlatılmasını ve uluslararası denetim mekanizmalarının ivedilikle kurulmasını talep ediyor.