Yapay Zeka Şirketlerinde Bağımsız Güvenlik Değerlendiricileri Tartışması
Anthropic ve OpenAI liderlerinin yapay zeka şirketlerine üçüncü taraf güvenlik değerlendiricileri yerleştirme önerisi sektörde memnuniyetle karşılanırken, bağımsızlık ve veri erişimi konusundaki belirsizlikler dikkat çekiyor.
Anthropic ve OpenAI yöneticileri, öncü yapay zeka sistemlerinin güvenliğini denetlemek üzere bünyelerine bağımsız üçüncü taraf değerlendiriciler dahil etme planlarını duyurdu. Uzmanlar bu adımı olumlu bulurken, tam bağımsızlık için yasal güvencelerin şart olduğunu vurguluyor.
Güvenlik Değerlendiricisi Önerisinin Detayları
Anthropic CEO'su Dario Amodei ve OpenAI CEO'su Sam Altman, öncü yapay zeka şirketleri içine bağımsız güvenlik değerlendiricilerinin yerleştirilmesini önerdi. Bu adım, model uyumluluğunu değerlendirmeyi, olayları raporlamayı ve bulguları paylaşmayı amaçlıyor.
Bağımsız Araştırma Gruplarının Yaklaşımı
METR, Redwood Research, Apollo Research, Far.AI, Palisades Research ve Safer AI gibi bağımsız araştırma grupları öneriyi memnuniyetle karşıladı. Ancak bu gruplar, başarı için geçmişteki veri erişimi ve süre kısıtlamalarının aşılması gerektiğini belirtti.
Erişim Talepleri ve Ara Noktalar
Uzmanlar, yalnızca bitmiş modellere değil ara eğitim aşamalarına da erişim sağlanmasının önemine dikkat çekiyor. Far.AI CEO'su Adam Gleave, bu sayede endişe verici davranışların ne zaman ortaya çıktığının daha net belirlenebileceğini ifade etti.
Geçmiş Değerlendirmelerin Kısıtlamaları
Geçmişteki testlerde şirketlerin uyguladığı katı gizlilik sözleşmeleri ve kısa süreler değerlendirmeleri olumsuz etkilemişti. Apollo Research ve METR gibi kuruluşlara geçmişte çok kısıtlı süreler tanındığı biliniyor.
Yasal Düzenlemeler ve Gelecek Beklentileri
Uzmanlar, gönüllü önlemlerin şirketlerin iyi niyetine bağlı olduğunu belirterek şeffaf kamusal çerçeveler ve zorunlu düzenlemeler talep ediyor. Kaliforniya'daki yasalar ve AB Yapay Zeka Yasası bu süreçlerde yeni çerçeveler sunuyor.