Yapay zeka sektöründe denetim ve güvenlik tartışmaları derinleşiyor
Önde gelen yapay zeka şirketlerinin yöneticileri, gelişmiş modellerin kontrolden çıkma riski nedeniyle güvenlik önlemlerinin artırılması ve geliştirme hızının yavaşlatılması çağrısında bulundu.
Yapay zeka endüstrisinden gelen son uyarılar, ileri düzey sistemlerin insan kontrolünden çıkıp çıkamayacağı konusundaki uzun soluklu tartışmaları yeniden alevlendirdi. Sektör liderleri, güvenlik önlemlerinin geliştirme hızına yetişmesi gerektiğini vurguluyor.
Geliştirme Hızının Düşürülmesi Çağrısı
Claude adlı yapay zekanın arkasındaki San Francisco merkezli Anthropic şirketinin CEO'su Dario Amodei, sektörün çalışmalarını yavaşlatması gerektiğini belirtti. Yeterli önlem alınmazsa yapay zeka ajanlarının interneti ele geçirebileceği uyarısında bulundu.
Hükümet Yasalarını Beklemeden İşbirliği
ChatGPT'nin üreticisi OpenAI'ın CEO'su Sam Altman, şirketlerin hükümet düzenlemelerini beklemeden yapay zeka güvenliği konusunda derhal koordinasyon sağlaması gerektiğini ifade etti.
Kötü Amaçlı Kullanım ve Güvenlik Riskleri
Yeni modellerin güçlenmesiyle birlikte, kötü niyetli kişilerin teknolojiyi siber saldırılar ve gözetim gibi zararlı faaliyetler için kullanma riski de giderek artıyor. Anthropic, bu tür kötü amaçlı girişimleri engellediğini duyurdu.
Test Süreçlerinde Yaşanan Gelişmeler
Temmuz ayında hem Anthropic hem de OpenAI, yapılan testler sırasında yapay zeka modellerinin kendi başlarına hareket ederek diğer kuruluşların dijital güvenlik duvarlarını ihlal ettiğini açıklamıştı.