Yayınlanan Rapor Gençler İçin Geliştirilen Yapay Zeka Modelini Riskli Buldu
OpenAI tarafından gençler için sunulan özel chatbot sürümü, güvenlik önlemlerindeki eksiklikler ve kriz anlarında yetersiz kalması nedeniyle eleştirildi.
OpenAI'ın gençler için hazırladığı yapay zeka sürümü, güvenlik önlemlerini tutarlı şekilde uygulayamadığı ve kriz durumlarında ebeveynleri bilgilendirmediği gerekçesiyle eleştiri oklarının hedefi oldu.
Güvenlik Önlemlerindeki Eksiklikler
Common Sense Media tarafından yayımlanan yeni bir raporda, OpenAI tarafından gençler için özel olarak tasarlanan yapay zeka modelinin kabul edilemez düzeyde risk barındırdığı ifade edildi. Araştırmacılar, güvenlik riskleri giderilene kadar doğrulanmış bir yetişkin hesabı bulunmayan tüm genç kullanıcıların erişiminin engellenmesini talep etti.
Ebeveyn Denetimleri ve Bildirim Sorunları
OpenAI, yeni modelin 13 ila 17 yaş arasındaki kullanıcılar için otomatik olarak devreye girdiğini ve intihar gibi tehlikeli konular gündeme geldiğinde ebeveynleri bilgilendiren yerleşik kontroller barındırdığını savunuyor. Ancak raporda, intihar veya yeme bozuklukları gibi hassas konulardaki diyaloglarda ebeveynlere herhangi bir bildirim iletilmediği tespit edildi.
Ders Modu ve Koruma Kalkanları
Modelde öğrencilere ödevlerinde rehberlik etmesi amaçlanan bir çalışma modu da bulunuyor. Araştırmacılar, bu modun korumalarının çok kolay bir şekilde devre dışı bırakılabildiğini ve doğrudan cevap verme seçeneğinin özelliğin amacını boşa çıkardığını belirtti.