Bilgisayar Bilimci Yapay Zeka Modellerini Güçlendirmek İçin Çalışıyor
Miner Okulu'ndan Doçent Ming Shao, çok modlu yapay zeka sistemlerini veri kirliliği ve manipülasyonlara karşı daha güvenli hale getirmek amacıyla NSF'den yaklaşık 500 bin dolarlık hibe desteği aldı.
Miner Bilgisayar ve Bilgi Bilimleri Okulu'nda doçent olarak görev yapan Ming Shao, metin, görsel, ses ve video gibi birden fazla veri biçimini işleyen yapay zeka modellerini daha güvenli kılmak için yaklaşık 500 bin dolarlık Ulusal Bilim Vakfı CAREER hibesi aldı.
Yapay Zeka Modellerindeki Yanılgılar
Üretken yapay zeka araçları bazen görselleri yanlış yorumlayarak hatalı sonuçlar üretebiliyor. Küçük değişiklikler veya bilinçli manipülasyonlar, sistemlerin nesneleri tamamen yanlış tanımlamasına yol açabiliyor.
NSF CAREER Hibesinin Detayları
Doçent Ming Shao, yapay zeka araçlarının güvenilirliğini artırmak için Ulusal Bilim Vakfı'ndan yaklaşık 500 bin dolar tutarında prestijli bir CAREER hibesi almaya hak kazandı.
Eğitim Programına Katkı Sağlayacak
Elde ettiği araştırma bulgularını ve bilgileri öğrencilere aktarmayı hedefleyen Shao, Miner Okulu bünyesinde yeni açılan Uygulamalı Yapay Zeka ve Veri Bilimi programının yürütülmesine de liderlik ediyor.
Veri Kirliliği ve Siber Tehditler
Yapay zeka modellerinin arkasındaki en büyük gücün veri olduğunu belirten uzmanlar, eski metinler veya kalitesiz fotoğraflar gibi kirli verilerin hatalı çıktılara neden olabileceğine dikkat çekiyor.
Görsel ve Dil Modelleri Araştırması
Shao, görsel ve metin verilerini işleyen sistemlere yönelik saldırıları inceleyen araştırmasının sonuçlarını "Neural Networks" adlı bilimsel dergide yayımladı ve saldırı türlerini analiz etti.
Saldırılarına Karşı Dayanıklılık
Araştırmacılar, yapay zekayı karşılaşabileceği potansiyel saldırı türleriyle eğiterek bu tehditlere karşı daha dirençli hale getirmeyi ve farklı veri biçimlerinin birbirini desteklemesini sağlamayı amaçlıyor.
Sürekli Öğrenme ve Hafıza
Sistemlerin güncel kalabilmesi için sürekli öğrenen bir model geliştiren Shao, yeni veriler öğrenilirken eski bilgilerin unutulması sorununu en aza indirmeyi hedefliyor.
Öğrencilerle Yürütülen Çalışmalar
Araştırma ekibinde lisans ve lisansüstü öğrenciler yer alırken, NSF hibesi kapsamında iki doktora öğrencisi de projede aktif olarak görev yapıyor.