Yapay zekâ teknolojisinin çocuklar üzerindeki riskleri sosyal medyayı aşıyor
Google eski güvenlik yöneticisi Tom Siegel, yapay zekâ sistemlerinin çocuklar açısından sosyal medyadan daha büyük tehlikeler barındırdığını belirtti.
Google’ın eski güven ve güvenlik yöneticisi Tom Siegel, yapay zekânın çocukların ruh sağlığı ve güvenliği üzerinde sosyal medyadan çok daha ağır sonuçlar doğurabileceği uyarısında bulundu. Siegel, teknoloji şirketlerinin denetim yetersizliğine dikkat çekti.
Yapay Zekâ ve Sosyal Medya Farkı
Yapay zekânın kullanıcıyla yalnızca içerik paylaşmadığı, sohbet sistemleri aracılığıyla çocukların sorularına cevap verip uzun süreli bire bir iletişim kurabildiği ifade ediliyor. Bu durum yanlış yanıtların etkisini artırıyor.
Çocukların kriz anlarında yapay zekâya yönelmesi, sistemlere duygusal olarak bağlanması ve teknolojiyi düşünme süreçlerinin yerine koyması gibi önemli riskler bulunuyor.
Güvenlik Sektöründeki Geçmiş
2004 yılında Google’a katılan Tom Siegel, şirketin güven ve güvenlik yapılanmasını sıfırdan kuran ekipte yer aldı. Daha sonra bağımsız güvenlik ölçümleri yapan TrustLab’in kurucuları arasında bulundu.
Youth AI Safety Institute
Common Sense Media bünyesinde kurulan Youth AI Safety Institute’un ilk icra direktörü olan Siegel, çocukların kullandığı ürünleri şirketlerden bağımsız biçimde test etmeyi hedefliyor.
Araştırma Verileri ve Kullanım Oranları
Common Sense Media'nın yaptığı araştırmaya göre 9-17 yaşlarındaki çocukların yüzde 86’sı yapay zekâ kullanıyor ve yaklaşık dört çocuktan biri bunu her gün yapıyor. Çocukların yarısından fazlası sağlık konularında bu sistemlere başvuruyor.
Bağımsız Çarpışma Testleri
Otomobil güvenliğindeki testlere benzer bir sistem kurmayı amaçlayan enstitü, yapay zekâ ürünlerini gerçek kullanım senaryolarında inceleyerek sonuçları kamuoyuyla paylaşacak.