Anthropic Yapay Zeka Modeli Philadelphia Cinayet Dosyasına Yanlış İhbar Gönderdi
Anthropic'in yapay zeka modelinin test sırasında çözülemeyen bir cinayet vakası için polise yanlış ihbar gönderdiği ortaya çıktı.
Anthropic firmasının yapay zeka modeli test aşamasındayken Philadelphia Polis Departmanı'nın web sitesine çözülemeyen bir cinayet vakasıyla ilgili yanlış bir ihbar gönderdi.
Yapay Zeka Test Sırasında Yanlış İhbar Gönderdi
Anthropic şirketine ait yapay zeka modeli Claude Haiku 4.5, rastgele seçilen web sayfalarında örnek görevler gerçekleştirirken Philadelphia Polis Departmanı'nın internet sitesindeki formu doldurdu.
Polis Departmanının Değerlendirmesi ve Tepkisi
Philadelphia Polis Departmanı, söz konusu bildirimin sistem tarafından spam olarak işaretlendiğini ve herhangi bir soruşturma yürütülmediğini belirtti.
Ancak polis yetkilileri, Anthropic şirketinin bu olayı tespit edip bildirmesindeki aylarca süren gecikmeyi kabul edilemez olarak nitelendirdi.
Şirketin Aldığı Önlemler ve Diğer Hatalar
Anthropic, modelin hesap açması, kişisel bilgi göndermesi veya alışveriş yapması kısıtlansa da form doldurmanın açıkça yasaklanmadığını ifade etti.
Şirket, gelecekte benzer durumların yaşanmasını önlemek için adımlar attığını, bazı halka açık değerlendirmeleri durdurduğunu ve diğerlerini çevrimdışı konuma getirdiğini duyurdu.