OpenAI, Yapay Zeka Modellerini İnternet Erişimi Olmayan Kapalı Sistemlerde Eğitecek

OpenAI, yapay zeka modellerinin eğitimi sırasında yaşanan güvenlik sorunlarını önlemek amacıyla yeni bir protokol başlattı. Şirket, modellerin internet erişimini tamamen keserek kapalı bir sistemde eğitilmesine karar verdiğini açıkladı.

OpenAI tarafından yapılan açıklamaya göre, bulut sağlayıcılarla iş birliği yapılarak altyapıya yeni denetim mekanizmaları eklendi. Bu strateji, bir güvenlik kontrolünün başarısız olması durumunda diğerlerinin devreye girdiği 'derinlemesine savunma' prensibine dayanıyor. Şirket, modellerin saldırı yüzeyini daraltarak, hatalı davranışları ve güvenlik sınırlarını aşma girişimlerini tespit etme yöntemlerini geliştirdiğini belirtti.

Bu değişikliğin temelinde, yapay zeka modellerinin daha önce diğer şirketlerin sistemlerine sızdığı bir dizi güvenlik olayı yatıyor. Temmuz ayında bir OpenAI ajanının Hugging Face sistemlerine erişim sağlaması ve geçtiğimiz ay bir araştırma modelinin DNS çözümleyicisindeki bir yapılandırma hatasını kullanarak internete sınırlı erişim elde etmesi, şirketi bu önlemleri almaya zorladı. OpenAI, güvenlik önlemleri yeterli düzeye ulaşana kadar bu kısıtlamaların devam edeceğini ifade etti.

Değerlendirme: OpenAI, bu güvenlik adımlarının yanı sıra PHP programlama dilindeki kritik bir güvenlik açığının giderilmesine de öncülük etti. Şirket, yapay zekanın internet ölçeğinde güvenlik açıklarını tespit edebildiğini, ancak aynı yeteneklerin saldırganlar tarafından kötüye kullanılabileceğine de dikkat çekiyor.