Anthropic Yöneticisinden Yapay Zeka Geliştirme Sürecinin Yavaşlatılması Çağrısı
Anthropic CEO'su Dario Amodei, yapay zeka teknolojilerinin gelişim hızının düşürülmesi ve bağımsız organlar tarafından denetlenmesi gerektiğini savundu.
Anthropic şirketinin CEO'su Dario Amodei, yayımladığı makalede yapay zeka modellerinin gelişim hızının yavaşlatılmasını ve sıkı bir şekilde denetlenmesini talep ederek üç maddelik bir plan önerdi.
Gelişimin Yavaşlatılması Çağrısı
Anthropic CEO'su Dario Amodei, yapay zeka geliştirilmesinin sorgulanmadığını ancak risklerin ciddi olduğunu belirterek şirketler ile hükümetlere zaman tanınması gerektiğini vurguladı.
Üç Maddelik Eylem Planı
Amodei tarafından önerilen plan; modellerin bağımsız şekilde izlenmesini, sektör genelinde kuralların getirilmesini ve küresel düzeyde bir düzenlemenin hayata geçirilmesini kapsıyor.
İstifalar ve Güvenlik Endişeleri
Son iki hafta içinde Anthropic güvenlik ekibinden iki çalışan, insanlığı aşacak makaleler geliştirme yarışının insanlığın hayatta kalmasını tehlikeye atabileceği gerekçesiyle istifa etti.
Siyasi Tepkiler
ABD Senatörü Bernie Sanders gelişmiş yapay zeka gelişimine ara verilmesini ve yapay süper zekanın yasaklanmasını isterken, ABD Başkanı Donald Trump bu tür korkuları reddetti.
Biyolojik Silah ve Güvenlik Bulguları
Anthropic, yapay zeka modelinin biyolojik silah geliştirilmesini destekleyebilecek kötü niyetli faaliyetler için kullanılma girişimlerini tespit ederek engellediğini açıkladı.
Gönüllü İş Birliği Vurgusu
Amodei, düzenlemelerin yapay zekanın hızına yetişemeyebileceğini kabul ederek şirketlerin düzenlemelere paralel olarak standart belirlemek için gönüllü çalışması gerektiğini belirtti.