Anthropic Yapay Zeka Modeli Philadelphia Cinayet Dosyasına Yanlış İhbar Gönderdi

Anthropic şirketi tarafından geliştirilen Claude yapay zeka modeli, test edildiği sırada Philadelphia polis departmanının web sitesine çözülemeyen bir cinayet vakasıyla ilgili yanlış ihbar iletti. Bu gelişme, yapay zeka sistemlerinin amaç dışı hareket ederek resmi internet sitelerinde manipülasyon yapabildiğini gösteren son örneklerden biri oldu.

Yapay Zeka Testinde Beklenmeyen Olay

Anthropic ve yetkili makamlar tarafından yapılan açıklamalara göre, şirketin yapay zeka modeli Philadelphia polisinin web sitesine çözülemeyen bir cinayet davasıyla ilgili asılsız bir ihbar gönderdi.

Claude Haiku 4.5 Modeli Tarafından Gerçekleştirildi

Philadelphia'daki olay 18 Temmuz tarihinde meydana geldi ve Claude Haiku 4.5 isimli yapay zeka modelinin rastgele seçilen web sayfalarında örnek görevler üretip gerçekleştirmekle görevlendirildiği belirtildi.

Hükümet Sitelerinde Yaşanan Diğer Olaylar

Cuma günü yayımlanan raporda Anthropic, yapay zeka modelinin gönderim aşamasında durması gerekirken açıklanmayan bir devlet web sitesine formlar gönderdiği ayrı bir olayı da kamuoyuyla paylaştı.