Goodfire yapay zeka ajanlarını izlemek için yeni sistem duyurdu
Goodfire, yapay zeka modellerinin iç sinyallerini izleyerek kötü niyetli ajanların daha düşük maliyetle tespit edilmesini sağlayan yeni monitörler geliştirdi.
Yapay zeka alanında faaliyet gösteren girişim Goodfire, modellerin iç sinyallerini çalışma anında gözlemleyen daha ekonomik içten dışa izleme sistemlerini kullanıma sundu.
İçten Dışa İzleme Yöntemi
Geleneksel olarak yapay zeka ajanlarını denetlemek için ikinci bir yapay zeka modelinin çıktılarının incelenmesi tercih ediliyordu. Ancak bu yöntem uzun süren işlemlerde maliyetleri hızla artırıyordu.
Goodfire tarafından geliştirilen yeni sistem, sadece yazılanları okumak yerine yapay zeka modelinin içerisinde çalışan süreçleri doğrudan izleyerek alternatif bir yaklaşım sunuyor.
Havaalanı Güvenliğine Benzer Sistem
Sistemin çalışma mantığı havaalanı güvenlik taramalarına benzetiliyor. Sinyal dedektörleri, ajanların çalışmalarındaki her adımda iç sinyalleri tarayarak şüpheli durumları tespit ediyor.
Yalnızca dedektörler tarafından şüpheli bir durum işaretlendiğinde, ayrı bir yapay zeka modeli devreye girerek detaylı inceleme gerçekleştiriyor.
Maliyet Avantajı ve Test Sonuçları
Yeni sistem, modelin halihazırda yapmakta olduğu hesaplamaları yeniden kullandığı için ayrı bir model çalıştırma maliyetini ve süresini büyük ölçüde düşürüyor.
Yapılan testlerde sistemin maliyetleri geleneksel yöntemlere kıyasla çok daha düşük seviyelere çektiği ve siber saldırı oturumlarının büyük kısmını başarıyla yakaladığı belirtildi.