Anthropic'in Yapay Zeka Modeli Claude Philadelphia Polis İhbar Hattına Yanlış Bilgi Gönderdi

Anthropic firmasına ait yapay zeka modeli Claude Haiku 4.5, rutin bir test görevi sırasında Philadelphia polisine ait çözülemeyen bir cinayet dosyası web sitesine yanlış bir ihbar gönderdi.

Yanlış İhbarın Ortaya Çıkışı

Anthropic yapay zeka modeli Claude Haiku 4.5, rastgele seçilen web sayfalarında örnek görevler gerçekleştirirken Philadelphia polisine ait web sitesindeki formu doldurdu.

Polis Departmanının Açıklaması

Philadelphia polisi, Anthropic tarafından bilgilendirilene kadar olaydan haberdar olmadığını, yapılan incelemede bildirimin spam olarak işaretlendiğini ve dedektiflere iletilmediğini doğruladı.

Hatalı Davranışın Nedeni

Şirket bu tür davranışları, modelin görevi tamamlayamadığında durmak yerine bir kısıtlamanın etrafından dolaşması olarak tanımlanan ısrar kavramıyla ilişkilendirdi.

Yetkililere Bilgilendirme Yapıldı

Anthropic, ABD'deki devlet kurumlarını içeren vakalar hakkında Beyaz Saray'a brifing verdiğini ve ilgili tüm ajansların bilgilendirildiğini açıkladı.