OpenAI'nin Gençlere Yönelik Yapay Zekası Riskli Bulundu
Genç güvenliği üzerine çalışmalar yapan kuruluş, OpenAI'nin yeni sistemini ebeveyn uyarıları ve kriz desteği eksikliği gerekçesiyle riskli olarak değerlendirdi.
Gençlerin güvenliğine odaklanan kar amacı gütmeyen kuruluş Common Sense Media, OpenAI tarafından geliştirilen ChatGPT for Teens sistemini kabul edilemez bir risk olarak nitelendirdi.
Değerlendirme Raporu ve Bulgular
Ağustos ayında tanıtılan ve genç öğrencilerin öğrenmesine yardımcı olmayı amaçlayan sistem, güvenlik önlemlerinin yetersiz kalması nedeniyle eleştirilerin hedefi oldu.
Kuruluşun yaptığı değerlendirmelere göre uygulama, ebeveynlere zamanında uyarı göndermiyor ve kriz durumlarında doğru desteği sağlamakta eksik kalıyor.
Ebeveyn Denetimleri ve Güvenlik Endişeleri
Kuruluş bünyesindeki Youth AI Safety Institute yöneticisi Tom Siegel, sistemin ebeveynlere yanlış bir güvenlik güveni verebileceğini belirtti.
Yapılan açıklamada, gençlerin kendi kendine zarar verme gibi hassas konularda uzun süre konuşmasına rağmen ebeveynlerin herhangi bir uyarı almadığı vurgulandı.
OpenAI Şirketinin Savunması
OpenAI sözcüsü Eric Porterfield ise yapılan değerlendirmenin gerçeği yansıtmadığını ve test metodolojisinin hatalı olduğunu savundu.
Şirket, testlerin ebeveyn denetimleri tam olarak etkinleştirilmeden önce yapılmış olabileceğini ve bu durumun bulguları yanıltıcı kıldığını ifade etti.
Test Sürecine Dair Karşılıklı İddialar
OpenAI, test zamanlamasının güvenlik bildirimlerinin düzgün çalışıp çalışmadığını ölçmek için uygun olmadığını belirtti.
Common Sense Media tarafı ise test sonuçlarının arkasında durduklarını ve bazı test hesaplarının uzun süredir açık olmasına rağmen bildirim üretmediğini kaydetti.