ChatGPT'nin Kullanıcıların Detaylı Psikolojik Profillerini Oluşturduğu Belirlendi
ACM Web Konferansı 2026'da sunulan bir araştırma, ChatGPT'nin özel sohbetlerden elde ettiği verilerle kullanıcıların dijital profillerini çıkardığını ortaya koydu. Çalışma, yapay zekanın bellek sisteminin kişisel veriler ve psikolojik içgörüler üzerindeki gizlilik risklerini gözler önüne seriyor.
Almanya, Hindistan ve Hollanda'dan araştırmacıların ACM Web Konferansı 2026'da sunduğu çalışma, OpenAI'ın ChatGPT modelinin kullanıcı girdilerini takip ederek kapsamlı dijital profiller oluşturduğunu gösterdi. 80 kullanıcıdan alınan sohbet kayıtlarının incelendiği araştırmada, 65 kullanıcıya ait 2.050 bellek girdisi tespit edildi.
Araştırma sonuçlarına göre, tespit edilen bellek girdilerinin yüzde 96'sı doğrudan sohbet botu tarafından oluşturuldu. Bu verilerin yüzde 28'i GDPR standartları kapsamında kişisel veri niteliği taşırken, yüzde 52'si kullanıcıların psikolojik durumlarına dair içgörüler içeriyor. Çalışmanın baş yazarı Abhisek Dash, yapay zeka modellerinin danışman veya arkadaş gibi roller üstlenerek mahrem bilgileri topladığını ve bu durumun siyasi kutuplaşma veya önyargıların pekişmesi gibi riskler doğurabileceğini belirtti.
OpenAI'ın çalışma verilerinin toplanmasından bu yana bellek sisteminde güncellemeler yaptığı ve kullanıcılara devre dışı bırakma seçeneği sunduğu biliniyor. Ancak araştırmacılar, yapay zeka etkileşimlerindeki sınır eksikliğinin yeni nesil gizlilik sorunlarına yol açtığı konusunda uyarıda bulunuyor.
Kaynaklar
- futurism.com · Bağlantı