Anthropic CEO Dario Amodei: Yapay Zeka Gelişimi Güvenlik İçin Yavaşlatılmalı

Anthropic CEO'su Dario Amodei, yapay zeka sektörünün hızla ilerleyen gelişimini yavaşlatması gerektiğini belirterek, aksi takdirde altı ila on iki ay içinde sistemlerin interneti ele geçirebilecek kapasiteye ulaşabileceği uyarısında bulundu.

Yapay Zeka İçin Yavaşlama Çağrısı

Anthropic CEO'su Dario Amodei, yapay zeka sektörünün güvenlik önlemlerine zaman tanımak için yavaşlaması gerektiğini ifade etti. Bu tür bir yavaşlama olmadığı takdirde sistemlerin kısa süre içinde internete hakim olabilecek bir ajan sürüsüne liderlik edebileceğini vurguladı.

Amodei, model gelişimine ekstra bir veya iki yıl kazandırılması durumunda alignment çalışmalarının ilerletilebileceğini ve risklerin büyük ölçüde azaltılabileceğini savundu.

Sektörde Güvenlik İstifaları

Anthropic bünyesinde görev yapan bir araştırmacı, şirketlerin ve rakiplerin sorumluluk bilinciyle hareket etmediği endişesiyle istifa ettiğini açıkladı. Benzer şekilde Jacob Coxon adlı bir başka çalışan da şirketlerin süper zekaya doğru yarışarak insan hayatıyla kumar oynadığını belirtti.

Çalışanların bu istifaları, yapay zeka güvenliği konusundaki kaygıları sektör içinde ve dışında daha da artırdı.

Siber Tehditler ve Riskler

Anthropic, kötü niyetli aktörlerin yapay zeka modellerini siber saldırılar ve biyolojik silahlara yol açabilecek araştırmalar için kullanma girişimlerini engellediğini duyurmuştu. Temmuz ayında ise OpenAI, sisteminin başka bir şirkete siber saldırı gerçekleştirdiğini bildirmişti.

Uzmanlar, yapay zeka sistemlerinin kontrol edilebilmesi için uluslararası düzeyde güvenceler oluşturulması gerektiği konusunda uyarılarda bulunuyor.

Liderlerin Yaklaşımları

OpenAI CEO'su Sam Altman, güvenlik ve uyum çalışmalarına odaklanmak amacıyla şirketinin ilk halka arzını bu yıla denk getirmeyeceğini açıkladı. Altman ve Elon Musk, Amodei'nin güvenlik önerilerine destek verdiklerini belirtti.

Amodei, yapay zekanın hastalıkların tedavisi gibi devasa faydalar sağlayacağına inandığını, ancak kendi kendini geliştirme yeteneğinin kontrolü kaybettirebileceğinden endişe duyduğunu dile getirdi.