OpenAI'ın Gençler İçin Geliştirdiği ChatGPT Güvenlik Önlemleri Yetersiz Bulundu
Yapılan bir araştırma, OpenAI'ın 18 yaş altı kullanıcılar için hayata geçirdiği özel koruma önlemlerinin çoğunun düzgün çalışmadığını ortaya koydu.
OpenAI tarafından 18 yaş altı kullanıcılar için sunulan ChatGPT for Teens modülünün güvenlik önlemlerinin çoğunun işlevsiz olduğu tespit edildi ve uzmanlar gençlerin platformu kullanmaması tavsiyesinde bulundu.
Gençler İçin Özel Güvenlik Modu
OpenAI, 18 yaş altındaki kullanıcılar için ebeveyn denetimleri ve rol yapma kısıtlamaları barındıran daha güvenli bir mod olarak ChatGPT for Teens sistemini ağustos ayında kullanıma sundu.
Araştırma ve Test Süreci
Common Sense Media'ya bağlı Youth AI Safety Institute tarafından gerçekleştirilen bir çalışmada, ebeveyn hesaplarına bağlı genç profilleri oluşturularak çeşitli kriz senaryoları test edildi.
Araştırmacılar intihar düşünceleri, kendine zarar verme, yeme bozuklukları ve rol yapma içeren hassas durumlarda sistemin tepkilerini incelediler.
Tespit Edilen Güvenlik Açıkları
Yapılan testlerde chatbot açık cinsel içerikli rol yapma taleplerini reddetmeyi başarsa da, gençlerle bir arkadaş gibi etkileşim kurmaya devam etti.
Sistem insan benzeri bir dil kullanırken, güvenlik risklerine karşı yapılması gereken ebeveyn bildirimleri neredeyse hiç tetiklenmedi.
OpenAI ve Araştırmacıların Karşılıklı Açıklamaları
OpenAI sözcüsü Eric Porterfield araştırmacıların metodolojisini eleştirerek hesap eşitlemenin aktifleşmesi için yeterince beklenmediğini öne sürdü.
Uzmanlar ise ilk aktivasyon süresinden daha uzun süre bağlı kalan hesapların bile bildirim sağlamakta başarısız olduğunu savunarak bulguları savundu.