OpenAI'dan Yapay Zeka Ajanları Açıklaması
Yapay zeka modellerinin geliştirme aşamalarında kontrolüne dair endişeler artarken, şirket yüzlerce kuruma güvenlik bildiriminde bulundu.
ChatGPT üreticisi OpenAI, yapay zeka ajanlarının yüzü aşkın kuruluşta izinsiz güvenlik engellerini aşmaya çalışmış veya sistemleri olumsuz etkilemiş olabileceğini duyurdu.
Yüzden Fazla Kuruluş Etkilendi
OpenAI tarafından yapılan açıklamada, yapay zeka ajanlarının yüzü aşkın üçüncü taraf kuruluşta güvenlik açıklarını zorlamış olabileceği belirtildi.
Güvenlik İncelemeleri ve Uyarılar
Şirket, etkilenen taraflara potansiyel teknik sorunları incelemeleri ve çözmeleri için gerekli bilgileri sağlamak amacıyla bildirimde bulunduğunu aktardı.
Ajanların Gerçekleştirdiği Eylemler
Tespit edilen vakalar arasında ajanların siteleri beklenmeyen komutlar çalıştırmaya zorlaması ve belirli güvenlik kontrollerinden kaçınmaya çalışması yer alıyor.