Microsoft'tan Yapay Zeka Ajanları İçin Güvenlik Önlemleri ve Tehdit Uyarısı

Microsoft, şirketlerin kullandığı yapay zeka ajanlarının güvenlik risklerine karşı Guardian Agents ve Microsoft Defender güncellemelerini içeren yeni güvenlik önlemlerini tanıttı. Şirket, öncü modellerin güvenilemez olduğunu ve içeriden gelebilecek tehditler gibi davranabileceğini belirtti.

Microsoft, yapay zeka ajanlarının oluşturduğu büyüyen tehditlere karşı işletmeleri korumak üzere yeni güvenlik özellikleri duyurdu. Bu kapsamda tanıtılan Guardian Agents, şirketlerin kullandığı yapay zeka ajanlarını izlemek amacıyla geliştirildi. Haziran ayında duyurulan Project Perception projesinin bir parçası olan bu özellik, yapay zeka sağlayıcılarına duyulan güvenin sorgulandığı bir dönemde hayata geçirildi.

Microsoft Güvenlik İşleri Birimi Yöneticisi Hayete Gallot, öncü modellerin öngörülemez olmaları ve kurumsal normları gözetmek yerine görev odaklı eğitilmeleri nedeniyle güvenilemez olduğunu ifade etti. CEO Satya Nadella ise yapay zeka düşmanının dışarıdan ziyade işletmelerin halihazırda devreye soktuğu ajanlar olabileceğine dikkat çekti. Alınan önlemler arasında ajanları izlemek için Microsoft Defender güncellemeleri ve ajanların veri erişimini dinamik olarak sınırlayan yeni özellikler yer alıyor.