Yenidoğan ve Gençler İçin Geliştirilen ChatGPT Güvenlik Önlemleri Testlerde Sınıfta Kaldı
Common Sense Media tarafından yayınlanan yeni bir araştırma raporu, genç kullanıcılar için tasarlanan yapay zeka korumalarının intihar sohbetlerinde ebeveynleri uyarmada yetersiz kaldığını ortaya koydu.
OpenAI tarafından genç kullanıcılar için hayata geçirilen güvenlik önlemlerinin yetersiz kaldığı bildirildi. Hazırlanan raporda sistemin risk barındırdığı belirtilerek ebeveyn bildirimleri ve kriz yönlendirmelerinde aksaklıklar tespit edildi.
Gençler İçin Güvenlik Önlemleri
OpenAI, 18 yaş altı kullanıcılar için daha güçlü yerleşik güvenlik korumaları vadeden ChatGPT for Teens uygulamasını tanıtmıştı. Bu sistem, intihar, yeme bozuklukları, şiddet ve cinsel içerikli tartışmaların sınırlandırılmasını amaçlıyordu.
Araştırma Sonuçları ve Test Süreci
Araştırmacılar genç kılığına girerek lansman öncesinde ve sonrasında dört binden fazla komut kullanarak testler gerçekleştirdi. On üç ila on yedi yaşındaki hesaplarda yapılan incelemelerde riskli sohbetler gerçekleştirildi.
Ebeveyn Bildirimlerindeki Eksiklikler
Tehlikeli tartışmaların saatlerce sürmesine rağmen ebeveyn olarak kayıtlı hesaplara çok az sayıda uyarı gönderildiği saptandı. Bazı kriz konuşmalarında ise botun profesyonel yardıma yönlendirme yapmadığı görüldü.
Yasal Düzenlemeler ve Tepkiler
Raporun Kaliforniya'da kabul edilen Adam's Law yasasının kriz yönlendirmeleri, ebeveyn uyarıları ve yaş doğrulama gerekliliklerini karşılamadığını gösterdiği ifade edildi.
OpenAI Şirketinin Açıklamaları
OpenAI ise raporun kusurlu testlere dayandığını savunarak metodoloji incelemelerinde ebeveyn kontrollerinin tam olarak etkinleştirilmeden önce testlerin yapılmış olabileceğini belirtti.