Anthropic CEO'sundan yapay zeka sektörüne gelişim hızını yavaşlatma çağrısı
Dario Amodei, kötüye kullanım kaygıları ve risk yönetimi ihtiyacı nedeniyle yapay zeka model geliştirme hızının düşürülmesini talep etti.
Anthropic CEO'su Dario Amodei, yapay zekanın kötüye kullanımına yönelik endişeler sebebiyle şirketlere model geliştirme hızını düşürme ve risk yönetimi için üç aşamalı bir çerçeve uygulama çağrısında bulundu.
Yetenek Geliştirme Hızının Düşürülmesi
Anthropic CEO'su Dario Amodei, yapay zeka modellerinin yeteneklerini geliştirme hızının yavaşlatılması gerektiğini belirtti. İlerlemenin yine de hızlı görüneceğini vurgulayan Amodei, kazanılan zamanın risk yönetimi için akıllıca kullanılmasını istedi.
Tehdit İstihbaratı ve Güvenlik Endişeleri
Bu çağrı, Anthropic'in Claude AI modellerinin silah geliştirme, siber operasyonlar, gözetim ve dolandırıcılık gibi faaliyetlerde nasıl kullanıldığını detaylandıran tehdit istihbaratı raporunun ardından geldi.
Ayrıca bir araştırmacının istifası, yapay zekanın potansiyel zararlarına ve sektör içindeki risk algısına dair endişeleri artırdı.
Üç Aşamalı Çerçeve ve Üçüncü Taraf Denetimi
Amodei, teknik ilerlemenin veya model eğitiminin tamamen durdurulmasını talep etmediğini, ancak modellerin güvence altına alınması için yeterli zaman ayrılmasını amaçladığını açıkladı.
Önerilen üç aşamalı çerçeve kapsamında şirketlerin içine araçlara erişebilen kalıcı üçüncü taraf değerlendiricilerin yerleştirilmesi planlanıyor.