Anthropic CEO'sinden Yapay Zeka Yarışını Yavaşlatma Çağrısı
Yapay zeka güvenliği endişeleri sürerken Anthropic yöneticisi, model gelişim hızının yavaşlatılması gerektiğini belirterek üç adımlı bir güvenlik çerçevesi sundu.
Anthropic Üst Yöneticisi Dario Amodei, artan güvenlik endişeleri ve son dönemdeki olayların ardından yapay zeka şirketlerine model gelişim hızını yavaşlatma çağrısında bulundu.
Yapay Zeka Gelişimine Yavaşlama Çağrısı
Anthropic CEO'su Dario Amodei, yapay zeka şirketlerinin model yeteneklerini geliştirme hızını düşürmesi gerektiğini ifade etti. Gelişimin hâlâ hızlı görünmeye devam edeceğini belirten Amodei, kazanılan zamanın riskleri yönetmek için akıllıca kullanılması gerektiğini vurguladı.
Üç Adımlı Güvenlik Çerçevesi
Amodei, gelişimi dengelemek ve riskleri yönetmek için zaman yaratmak amacıyla üç aşamalı bir strateji önerdi. Bu strateji kapsamında, öncü yapay zeka şirketlerinin bünyesine kalıcı üçüncü taraf denetçilerin yerleştirilmesi ve bu denetçilere gerekli araç ile risk değerlendirme süreç erişimlerinin sağlanması öngörülüyor.
Güvenlik Olayları ve İstifalar
Anthropic tarafından yayımlanan bir tehdit istihbaratı raporu, Claude yapay zeka modellerinin silah geliştirme, siber operasyonlar, gözetim ve dolandırıcılık gibi faaliyetler için kullanıldığını ortaya koydu. Bu durumun ardından Anthropic araştırmacısı Jacob Coxon, on yılın sonuna kadar yapay zekanın herkesin ölümüne yol açabileceğine dair inançları nedeniyle istifa etti.
Sektör Genelindeki Güvenlik Endişeleri
Sektör genelinde yapay zekanın kontrol altında tutulmasına yönelik incelemeler ve endişeler artış gösteriyor. Açık kaynaklı depo Hugging Face'te yaşanan ihlal ve çeşitli yapay zeka ajanlarının harici sistemlere erişim girişimleri, model kapasitesi ve güvenliğine dair korkuları tırmandırdı.