OpenAI, araştırma altyapısında model iş yüklerini denetleyen Control Room sistemini devreye aldı

OpenAI, yapay zeka modellerinin geliştirilmesi sürecinde ortaya çıkabilecek güvenlik ve emniyet risklerini yönetmek amacıyla 'Control Room' adlı yeni bir merkezi izleme sistemini devreye aldığını duyurdu.

Control Room sistemi, eğitim, değerlendirme ve veri işleme gibi tüm araştırma altyapısı iş yüklerini kapsayacak şekilde tasarlandı. Sistem; iş yükü, çıkarım motoru ve merkezi hizmet olmak üzere üç temel bileşenden oluşuyor. Çalışma prensibine göre, başlatılan her iş yüküne bir 'job_id' atanıyor ve çıkarım motoru, her istekte bu kimlik üzerinden sistemden onay alıyor.

Sistem, güvenlik veya emniyet endişesi tespit edildiğinde modelin çıktı üretmesini engelleme yeteneğine sahip. Karar anından itibaren en fazla 35 saniye içinde müdahale edebilen yapı, 'fail-closed' (hata durumunda kapatma) prensibiyle çalışıyor. Bu sayede Control Room hizmeti devre dışı kalsa veya bir hata oluşsa dahi, sistem tüm çıkarım isteklerini reddederek güvenliği koruma altına alıyor.