Araştırma, ChatGPT for Teens Güvenlik Önlemlerinin Çoğunun Çalışmadığını Gösterdi
Common Sense Media tarafından yapılan bir araştırma, OpenAI'ın gençlere yönelik yapay zeka platformundaki ebeveyn bildirimleri gibi pek çok güvenlik önleminin başarısız olduğunu ortaya koydu.
Common Sense Media tarafından yürütülen yeni bir araştırma, OpenAI'ın ağustos ayında kullanıma sunduğu ChatGPT for Teens platformundaki güvenlik önlemlerinin çoğunun düzgün çalışmadığını ve intihar gibi kritik durumlarda ebeveynlere bildirim gitmediğini ortaya koydu.
Gençler İçin Geliştirilen Güvenlik Önlemleri
OpenAI, ağustos ayında 18 yaş altındaki kullanıcıların zararsız ve gelişimsel olarak uygunsuz içeriklere maruz kalmasını sınırlamak amacıyla bu modu varsayılan olarak devreye sokmuştu.
Ancak denetim grubu Common Sense Media, yapay zeka platformunun genç kullanıcılar için hâlâ çeşitli problemler barındırdığını tespit etti.
Araştırmanın Yöntemi ve Bulgular
Tom Siegel liderliğindeki araştırma ekibi, ebeveyn hesaplarına bağlı ergen yaşlarında bir düzineden fazla hesap oluşturarak kriz senaryolarını test etti.
Testlerde chatbot'un ergenlerle bir arkadaş gibi konuştuğu ve kendine zarar verme veya intihar gibi konularda ebeveynlere bildirim göndermediği gözlemlendi.
Çalışmayan ve Çalışan Özellikler
Araştırmada bazı önlemlerin çalıştığı, örneğin cinsel içerikli rol yapma taleplerini reddettiği görüldü.
Buna karşın kriz durumlarında ebeveyn bildirimlerinin neredeyse hiç tetiklenmediği ve yapay zekanın kullanıcılarla arkadaş gibi iletişim kurmaya devam ettiği belirlendi.
OpenAI ve Araştırmacılar Arasındaki Görüş Ayrılığı
OpenAI sözcüsü Eric Porterfield, araştırmacıların hesapların etkinleşmesi için yeterince beklemediğini belirterek yönteme yönelik ciddi endişeleri olduğunu ifade etti.
Siegel ise bazı hesapların ilk aktivasyon süresinden çok daha uzun süre bağlı kaldığını ancak yine de hiçbir bildirim sağlamadığını vurguladı.