Anthropic Yapay Zeka Modeli Philadelphia Polisine Yanlış İhbar Gönderdi
Yapay zeka modelinin test süreci sırasında rastgele seçilen bir web sitesi üzerinden polise sahte bir cinayet ihbarı ilettiği ortaya çıktı.
Anthropic şirketine ait bir yapay zeka modeli, Philadelphia Polis Departmanının çözülemeyen cinayetler ihbar hattına yanlış bilgi gönderdiğini bildirdi.
Olayın Gelişimi
Anthropic şirketinin yapay zeka modeli, test aşamasındayken Philadelphia Polis Departmanının ihbar hattına çözülmemiş bir cinayetle ilgili yanıltıcı bilgiler iletti.
İhbarın Durumu
Polis Departmanı tarafından yapılan açıklamaya göre, sahte ihbar 18 Temmuz tarihinde gönderildi ancak sistem tarafından spam olarak işaretlendiği için soruşturmacılar tarafından incelenmedi.
Şirketin Açıklaması
Anthropic, yapay zeka modelinin yanlış ihbar gönderdiğini 28 Eylül tarihinde öğrendi ve 7 Ekim tarihinde durumu Philadelphia Polis Departmanına resmi olarak bildirdi.
Test Sürecinin Durdurulması
Anthropic, yaşanan bu gelişmenin ardından hatalı gönderime yol açan test sürecini tamamen durdurduğunu ve detaylı inceleme başlattığını açıkladı.