Bağımsız Yapay Zeka Güvenlik Denetçileri Sektörün Odağına Yerleşiyor
Federal düzenleme eksikliğinde Anthropic ve OpenAI gibi lider yapay zeka laboratuvarları, model yetenekleri ile risklerini değerlendirmek için bağımsız denetim gruplarından destek istiyor.
Yapay zeka sektöründe faaliyet gösteren METR, Apollo Research ve Transluce gibi bağımsız güvenlik değerlendirme kuruluşları, şirketlerin model kapasitelerini ve olası riskleri incelemek istemesiyle ön plana çıkıyor.
Bağımsız Grupların Yükselişi
Yapay zeka endüstrisinde görece sessiz bir konumda bulunan bağımsız değerlendiriciler, sektörün devasa yatırımlarla büyüdüğü bir dönemde güvenlik açıklarını kapatmak üzere kritik bir role bürünüyor.
Federal Düzenleme Eksikliği
ABD'de somut bir federal düzenleme hamlesinin bulunmaması, bu üçüncü taraf değerlendirme gruplarının üstlendiği misyonun önemini ve ağırlığını daha da artırıyor.
Şirketlerin Yaklaşımı ve Taahhütler
Anthropic Üst Yöneticisi Dario Amodei bünyelerine bağımsız denetçiler dahil edeceğini duyururken, bu adım OpenAI Üst Yöneticisi Sam Altman tarafından da desteklendi.
Çözüm Bekleyen Belirsizlikler
Söz konusu üçüncü taraf grupların nasıl finanse edileceği, sistemlere ne düzeyde erişim sağlayacakları ve raporlama yapılarının nasıl kurulacağı konuları henüz netlik kazanmadı.
OpenAI'da Yaşanan İşten Çıkarmalar
OpenAI, hassas bilgilere erişim politikalarını ihlal ettikleri gerekçesiyle üç çalışanını işten çıkardı; işten çıkarılan çalışanlardan ikisi bu durumun bağımsız denetçilerle iletişim kurmalarıyla ilgili olduğunu öne sürdü.