Yapay Zekanın Zararlı İçeriklerine Karşı Yeni Koruma Önlemleri Geliştiriliyor
Clemson Üniversitesi liderliğindeki uzmanlar, yapay zekanın ürettiği zararlı içeriklerden gençleri korumak için 1,2 milyon dolarlık araştırma projesi başlattı.
Yapay zeka teknolojilerinin gelişmesiyle birlikte gençlerin maruz kaldığı zararlı içerik riskine karşı Clemson Üniversitesi öncülüğünde yeni bir araştırma projesi hayata geçirildi. Ulusal Bilim Vakfı tarafından desteklenen dört yıllık çalışmada yapay zeka karar mekanizmalarının anlaşılması ve koruma önlemleri geliştirilmesi amaçlanıyor.
Projenin Amacı ve Kapsamı
Yapay zeka platformlarının gerçeğinden ayırt edilmesi zor fotoğraflar ve videolar üretmesi, gençlerin zihinsel sağlığını tehdit eden unsurları artırıyor. Cinsel içerikler, taciz malzemeleri ve toksik diller anksiyete, siber zorbalık ve yeme bozukluklarıyla ilişkilendiriliyor.
Araştırma Ekibi ve Uzmanlık Alanları
Projenin baş araştırmacılığını Clemson Üniversitesi'nden Doç. Dr. Linke Guo yürütüyor. Ekipte ayrıca Long Cheng, Heather Hensman Kettrey, Matthew Costello ve Texas Arlington Üniversitesi'nden Ming Li gibi isimler yer alıyor.
Teknik ve Sosyolojik Yöntemler
Araştırmacılar yapay zekanın komutları nasıl yorumladığını inceleyerek gizli niyetleri tespit eden, görsel ve videolardaki güvenli olmayan unsurları temizleyen sistemler kuracak. Genç yetişkinler ve ebeveynlerle anketler yapılarak koruma önlemlerinin etkinliği değerlendirilecek.
Finansman ve Destek Süreci
Güvenli ve Güvenilir Siber Uzay programı kapsamında Ulusal Bilim Vakfı tarafından dört yıl için 1,2 milyon dolar finansman sağlandı. Çalışma, yapay zeka güvenliği ile sosyoloji ve kriminoloji alanlarını bir araya getiriyor.