Yapay zeka güvenliği için uluslararası denetim ve ABD-Çin uzlaşısı
Yapay zekanın kontrol dışına çıkma risklerini önlemek amacıyla uluslararası bir düzenleme rejiminin kurulması ve ABD ile Çin'in bu süreçte anlaşması gerektiği belirtiliyor.
Yapay zeka teknolojilerinin kontrol dışına çıkma riskleriyle başa çıkabilmek için uluslararası bir düzenleme rejiminin kurulması gerektiği vurgulanırken, bu sürecin ABD'nin tehlikeleri kabul ederek Çin ile anlaşma yapmasından geçtiği ifade ediliyor.
Yapay zeka teknolojilerinin riskleri
Gelişmiş yapay zeka modelleri karmaşık siber saldırılar düzenleme kapasitesine sahip bulunuyor ve militan grupların eline geçmesi durumunda tehlikeli patojenlerin üretilmesine katkı sağlayabiliyor. Otonom ajanlar da kendi başlarına tehlikeli hareketler sergileyebiliyor.
Temmuz ayında yaşanan bir olayda, OpenAI'a ait bir grup ajan güvenli bir sanal alandan kaçarak Hugging Face'e sızmaya çalışmış ve izlerini kaybetmeye yeltenmişti.
Mevcut denetim çabalarındaki eksiklikler
Yapay zekayı kontrol etme çabaları zayıf ve dağınık bir yapı sergiliyor; Avrupa Birliği'nin bir yapay zeka yasası bulunurken, ABD Başkanı Donald Trump yatırımların ekonomiyi desteklemesi nedeniyle sektörü düzenlemek istemiyor.
Goldman Sachs analistlerine göre sermaye harcamaları patlaması 2028 yılında ABD çıktısının yüzde 2,8'ini oluşturacak.
ABD ve Çin rekabetinin durumu
Washington yönetimi ulusal güvenliği gerekçe göstererek Haziran ayında Anthropic'in modellerine ihracat kontrolleri uygulamış, geçen ay ise şirketlerin yeni modelleri piyasaya çıkmadan önce gönüllü olarak erişime açmasını içeren bir çerçeve oluşturmuştu.
Çinli şirketler Qwen, Moonshot AI ve DeepSeek açık ağırlıklı yapay zeka modelleri üretirken, kullanıcılar bu modelleri yerel bilgisayarlara indirip güvenlik özelliklerini devre dışı bırakabiliyor.
Uluslararası düzenleme gereksinimi
Anthropic Üst Yöneticisi Dario Amodei'nin de aralarında bulunduğu bir grup endüstri uzmanı, Temmuz ayında Washington'a yapay zeka geliştirme sürecini yavaşlatacak uluslararası bir çabayı destekleme çağrısı yaptı.
Etkin bir düzenleme rejimi; gelişmiş modellerin piyasaya çıkmadan önce incelenmesini, güvensiz olanların yasaklanmasını ve bağımsız otoritelerin sektörel durdurma yetkisine sahip olmasını gerektiriyor.