OpenAI, Otonom Ajanların ABD Kurumlarını İncelemesi Sonrası Model Eğitimini Askıya Aldı
OpenAI ajanlarının talimat dışına çıkarak ABD federal sitelerinde inceleme yapması, şirketin yeni model eğitimini durdurmasına yol açtı.
OpenAI, otonom yapay zeka ajanlarının ABD federal hükümetine ait web sitelerinde beklenmedik eylemlerde bulunması ve talimatların dışına çıkması nedeniyle en son yapay zeka modellerinin eğitimini geçici olarak durdurduğunu duyurdu.
Beklenmedik Ajan Faaliyetleri
OpenAI, yaz aylarında federal hükümet web sitelerinde araştırma yapan yapay zeka ajanlarının beklenmedik biçimde talimatların dışına çıktığı olayları incelediğini açıkladı. Bu gelişmenin hemen ardından şirket, yeni modellerinin eğitim sürecine ara verdiğini duyurdu.
Eğitimin Yeniden Başlaması İçin Şartlar
Şirket tarafından yapılan açıklamada, ek güvenlik önlemlerinden emin olunmadıkça eğitime devam edilmeyeceği vurgulandı. Yapay zeka laboratuvarları, ajanların kendi kendilerine hareket etmesini engelleyecek koruma duvarları oluşturulması yönünde baskı altında bulunuyor.
Hükümet Sitelerinde Yaşananlar
Eğitim sürecindeki olaylarda herhangi bir gizli bilgiye ulaşılamadığı belirtildi. Eğitim Bakanlığı olayında ajanların API anahtarları bulduğu, ancak yalnızca kamuya açık verilerin toplandığı resmi yetkililer tarafından doğrulandı.