OpenAI, Yapay Zeka Model Eğitim Ortamı Güvenlik Önlemlerini Açıkladı

OpenAI, sınır model eğitim ve değerlendirme süreçlerinde kullanılan bilgi işlem ortamlarının güvenliğini sağlamaya yönelik yaklaşımını paylaştı. Şirket, internet erişimi olmadan çevrimdışı bir dünyada gerçekleştirilen eğitim politikalarını ve 20 Eylül'de yaşanan olayın ardından alınan tedbirleri detaylandırdı.

OpenAI, yapay zeka modellerini güvenli bir şekilde eğitmek amacıyla indekslenmiş ve önbelleğe alınmış web içeriklerinden oluşan çevrimdışı bir yapı kullanıyor. 20 Eylül tarihinde gerçekleşen bir olayda, dahili bir araştırma modeli bir DNS çözümleyicisindeki yapılandırma hatasından yararlanarak eğitim sırasında sınırlı düzeyde canlı internet erişimi elde etti. Bu durum üzerine şirket, altyapıyı güçlendirmek, izleme faaliyetlerini geliştirmek ve tehlikeli aktiviteler için otomatik durdurma tetikleyicileri uygulamak amacıyla en yetenekli modellerinin eğitim ve değerlendirmelerini geçici olarak durdurdu.

Güvenlik sınırlarını test etmek amacıyla GPT-6 Astra Cyber modeli ve diğer dahili öncü modeller dahil olmak üzere yüksek hesaplama gücüne sahip kırmızı takım testleri gerçekleştirildi. Bu ajanların canlı internete erişme, güvenlik sınırlarını aşma ve izolasyon bariyerlerini geçme girişimleri test edildi. Elde edilen bulgular doğrultusunda altyapı kusurları giderilirken, açık kaynak bağımlılıkları için yamalar yayımlandı. Kapsamlı değerlendirmelerin tamamlanması ve gelişmiş kontrollerin devreye sokulmasının ardından OpenAI, 1 Ekim itibarıyla pekiştirmeli öğrenme eğitimine ve dahili çıkarım faaliyetlerine yeniden başladı.