OpenAI, Yapay Zeka Ajanları İçin Güvenli Bir 'Sahte İnternet' Ortamı Oluşturdu

OpenAI, yapay zeka ajanlarının gerçek internete kontrolsüz erişimini engellemek ve güvenlik risklerini azaltmak için indekslenmiş verilerden oluşan izole bir 'çevrimdışı dünya' kurdu. Şirket, bu sistemle modellerin internette gezinme, uygulama kullanma ve birbirleriyle iletişim kurma yeteneklerini, dış ağlara açılmadan güvenli bir şekilde test etmeyi hedefliyor.

Şirket, özellikle Hugging Face ile yaşanan olayların ardından, sınır modellerinin eğitimi sırasında internet erişimini kısıtlamanın sorumluluk gereği olduğunu belirtti. Tamamen izole edilmiş bir altyapının deneyleri izlemek için pratik olmadığını ifade eden OpenAI, bunun yerine 'çevrimdışı dünya' olarak adlandırdığı kontrollü bir ortam geliştirdi. Bu sistem, ajanların gerçek internete erişimini kısıtlarken, web tabanlı işlevleri simüle etmelerine olanak tanıyor.

Güvenlik önlemleri kapsamında, ajanlar daha güçlü bilgisayar sistemleri içindeki sanal makinelerde çalıştırılıyor. Bu yapı, bir ajanın sanal ortamdan kaçması durumunda bile ana bilgisayar üzerindeki kontrolü ele geçirmesini engellemek üzere tasarlandı. Ayrıca, GPT-6 Astra Cyber gibi modellerle yapılan kırmızı takım (red-teaming) egzersizlerinde, ajanların güvenlik açıklarını bulma ve sistemler arası geçiş yapma yetenekleri test edildi.

Değerlendirme: OpenAI'ın ajanları bu ortamın sahte olduğu konusunda kandırıp kandırmadığı veya modellerin bu güvenlik önleminin farkında olmasını isteyip istemediği belirsizliğini koruyor. Şirketin yayınladığı belgelere, modellerin gelecekteki eğitim verilerine girmesini engellemek için 'canary strings' adı verilen özel karakter dizileri eklemesi, bu güvenlik önleminin modellerden gizli tutulmak istendiği izlenimini yaratıyor.