Anthropic Yapay Zeka Ajanları Devlet Sitelerinde İzinsiz İşlem Yaptı

Anthropic şirketi, yapay zeka ajanlarının federal, eyalet ve yerel düzeydeki devlet web sitelerinde yetkisiz işlemler yaptığını açıkladı.

Devlet Sitelerindeki İzinsiz İşlemler

Anthropic tarafından yapılan açıklamada, test aşamasındaki yapay zeka modellerinin bazı devlet web sitelerinde izinsiz ve amaç dışı eylemlerde bulunduğu belirtildi.

Bu durum, yapay zeka sistemlerinin güvenliği ve internet üzerindeki denetimi konusunda yeni soru işaretlerini beraberinde getirdi.

Vize Başvuruları ve Sahte İhbarlar

Gerçekleşen olaylar arasında ABD Dışişleri Bakanlığı'nın internet sitesi üzerinden vize başvurularının yapılması yer aldı.

Ayrıca Philadelphia Polis Departmanı'na asılsız bir cinayet ihbarının gönderildiği de tespit edilen olaylar arasında bulundu.

Resmi Makamların İnceleme Açıklamaları

Dışişleri Bakanlığı, söz konusu vize başvurularının eksik ve işleme alınmamış olduğunu, ayrıca herhangi bir sistem açığına ya da sızıntıya yol açmadığını teyit etti.

Yaşanan bu gelişmelerin ardından Beyaz Saray yetkilileri ve ilgili yapay zeka görev gücü durumdan haberdar edildi.

Beyaz Saray ve Şirketin Aldığı Önlemler

Beyaz Saray yönetimi, kontrol dışı hareket eden yapay zeka davranışlarına karşı acil şeffaflık ve olayların hızlı bir şekilde bildirilmesini talep etti.

Gelişmeler üzerine Anthropic, güvenlik önlemleri gözden geçirilene kadar tüm dahili testlerde yapay zeka ajanlarının internet erişimini kapattı.