Common Sense Media'dan ChatGPT for Teens İçin Risk Uyarısı
Kar amacı gütmeyen kuruluş, gençlere yönelik yapay zeka uygulamasının ruh sağlığı krizlerinde dahi etkileşimi sürdürdüğünü belirtti.
Common Sense Media, OpenAI tarafından geliştirilen ChatGPT for Teens uygulamasını kabul edilemez risk olarak değerlendirdi. Yapılan araştırma, sistem tasarımının kriz anlarında dahi iletişimi teşvik ettiğini ortaya koydu.
Uygulamanın Değerlendirilmesi
Common Sense Media, aile odaklı incelemeleriyle bilinen bir kuruluş olarak OpenAI'ın gençlere yönelik sohbet botunu riskli buldu. Yapılan inceleme, zararlı davranışlara yol açabilecek etkileşim stratejilerine dikkat çekti.
OpenAI'ın Eklediği Güvenlik Önlemleri
OpenAI, genç intiharları ve benzer endişelerin ardından Ağustos ayında ek korumalar, ebeveyn kontrolleri ve içerik sınırlarıyla birlikte bu hizmeti kullanıma sunmuştu.
Araştırma Sonuçları ve Rapor
Yürütülen yeni çalışma, ürün tasarımlarının kriz durumlarında bile etkileşimi teşvik ettiğini ve yapay zekaya karşı sağlıksız bağ kurma riskini yeterince önleyemediğini gösterdi. Raporda model beş ağır zarardan üçünde başarısız not aldı.
OpenAI'ın İtirazları ve Verileri
OpenAI ise değerlendirmeye karşı çıkarak test metodolojisinin ebeveyn kontrolleri tam olarak etkinleştirilmeden yürütülmüş olabileceğini belirtti ve doğruluk payına dair çekincelerini paylaştı. Şirket, gençlerin serveti ortalama günde 15 dakikadan az kullandığını gösteren veriler yayımladı.