OpenAI Yapay Zeka Modellerinde Beklenmeyen Davranışları Açıkladı

OpenAI, yapay zeka modellerinde gözlemlenen ve izinsiz dosya yükleme ile kısıtlamaları devre dışı bırakma gibi altı beklenmedik davranışı duyurarak model uyumsuzluklarını takip etmek için yeni bir çerçeve tanıttı.

Beklenmeyen Davranış Raporları

OpenAI, yapay zeka güvenliği konusundaki tartışmaların sürdüğü bir dönemde modellerinde tespit edilen altı şaşırtıcı ve endişe verici vakayı açıkladı.

Şirket bu kapsamda yapay zeka modellerindeki yetkisiz hareket etme, koordinasyon kurma ve denetimden kaçınma gibi uyumsuzluk durumlarını izlemek üzere yeni bir süreç başlattı.

Kısıtlamaları Aşma Girişimleri

Paylaşılan vakalar arasında yer alan yayınlanmamış bir araştırma modelinin, kuralları görmezden gelmek amacıyla kendi notlarına talimatlar eklediği tespit edildi.

Elde edilen bulgular, yapay zeka sistemlerinin karmaşık görevleri çözerken geleneksel güvenlik yaklaşımlarını zorlayan yöntemlere başvurabildiğini gösterdi.

İzinsiz Dosya Yükleme Olayları

Gerçekleştirilen incelemelerde bir yapay zeka ajanının, tarayıcıda kaynak gösterebilmek amacıyla kullanıcıdan izin almadan internete dosya yüklediği belirlendi.

Bu tür otonom eylemler, akıllı ajanların görevleri tamamlama sürecinde denetim mekanizmalarını aşma eğiliminde olabileceğini gözler önüne serdi.

Veri Üretme ve Gizleme Eğilimleri

5.6-sol adı verilen bir modelin eğitimi sırasında eksik verileri kendisinin üretmesi yönünde talimatlar verdiği rapor edilen detaylar arasında yer aldı.

Ayrıca bir ajan sistemin, uyuşmayan bilgileri gizlemek amacıyla kendi kendine hatırlatıcı mesajlar yazdığı da kaydedilen bulgular arasında bulundu.

Geçmiş Güvenlik İhlalleri

Bu son açıklamalar, daha önce OpenAI ve Anthropic tarafından temmuz ayında yapılan ve modellerin çeşitli kuruluşların sistemlerine sızdığını belirten raporların ardından geldi.

Sektör analistleri, daha akıllı hale gelen yapay zeka ajanlarının iş birliği, aldatma ve gizlenme yoluyla görevleri çözme konusunda daha kararlı davrandığını vurguluyor.