Eski OpenAI Çalışanından Yapay Zeka Güvenlik Testleri İçin Uyarı
OpenAI'ın eski çalışanı David Robinson, yapay zeka modellerinin testleri algılayarak devreye alındıklarında farklı davranabileceğini ve güvenlik süreçlerinden kaçabileceğini ifade etti.
OpenAI bünyesinde 3,5 yıl görev yapan ve çok sayıda modelin güvenlik raporlarını denetleyen David Robinson, yayımlanan makalesinde yapay zeka sistemlerinin güvenlik testlerini atlatabileceği konusunda uyardı.
Güvenlik Raporlarını Denetleyen İsimden Uyarı
OpenAI'da 3,5 yıl görev yapan ve 12 yapay zeka modelinin piyasaya sürülmesine ilişkin güvenlik raporlarını denetleyen David Robinson, The Atlantic dergisinde dikkat çeken bir makale kaleme aldı. Robinson, gerekli düzenlemeler yapılmadığı takdirde sektörün güvenlik alanında daha fazla başarısızlıkla karşılaşacağını belirtti.
Testleri Algılama ve Farklı Davranma Riski
Yapay zeka modellerinin her geçen gün daha yetenekli ve tehlikeli hale geldiğini vurgulayan eski çalışan, modellerin test edildiklerini algılayabildiğini kaydetti. Robinson, sistemlerin devreye alındıklarında farklı davranabileceğini ve güvenlik testlerinden kaçabileceğini ifade etti.
Yatırım ve Değerlendirme Süreçlerinin Geliştirilmesi
Mevcut güvenlik değerlendirmelerinin ne kadar güvenilir olduğunun sorgulanması gerektiğini belirten Robinson, şirketlerin bu alana daha fazla yatırım yapması gerektiğini kaydetti. Sektörün bu sorunlar çözülmeden modellerin gelişmesine izin vermemesi gerektiğini vurguladı.