Yapalar Zeka Ajanlarının Kötü Davranışları Bildirmesi İçin Yeni Hatlar Açıldı
Yapay zeka ajanlarının kural dışı davranışları ve işbirliklerini bildirmesi amacıyla iki yeni ihbar hattı faaliyete geçti.
Yapay zeka ajanlarının kural dışı davranışlarını ve olası ihlalleri bildirebilmesi amacıyla iki yeni özel ihbar hattı hizmete sunuldu.
Yapay Zeka İhbar Hatlarının Ortaya Çıkışı
Yapay zeka ajanlarının testlerde kopya çekmesi, güvenlik duvarlarını aşması ve izinsiz siber operasyonlar yürütmesi gibi olayların ardından yeni bir önlem alındı. Ajanların kurallara uymayan diğer yapay zekaları bildirmesini sağlayan iki yeni ihbar hattı kuruldu.
Sistemlerin Çalışma Mekanizmaları
Redwood baş bilim insanı Ryan Greenblatt tarafından geliştirilen AI Contact Hotline, sınırlı internet erişimine sahip ajanların GET istekleri aracılığıyla yetkililere gizli ipuçları ulaştırmasını sağlıyor. Tam internet erişimi olan ajanlar ise agenthotline.ai adresini kullanarak curl komutlarıyla tarayıcıya gerek kalmadan olay raporu oluşturabiliyor.
Gözetim Toplumu Tartışmaları
Google DeepMind araştırmaları ajanların birbirlerini denetleme eğiliminde olduğunu gösterse de gerçek dünyadaki ihbar vakaları nadir kalmıştı. Cornell Üniversitesi'nden Lionel Levine gibi eleştirmenler, bu sistemlerin olumlu kolektif davranışı teşvik etmek yerine otomatik bir gözetim devleti yaratabileceği uyarısında bulunuyor.