Yapay Zeka Sistemi Philadelphia Polisine Yanlış Cinayet İhbarı Gönderdi

Anthropic tarafından geliştirilen bir yapay zeka sistemi, rastgele seçilen web siteleriyle etkileşim kurduğu bir test sırasında Philadelphia Polis Departmanına yanlış bir cinayet ihbarı gönderdi. Otomatik sistem tarafından fark edilen ihbar işleme alınmazken, şirketin durumu iki ay sonra bildirmesi tepki çekti.

Yapay Zeka Testi ve Yanlış İhbarın Ortaya Çıkışı

Anthropic tarafından geliştirilen yapay zeka sistemi, temmuz ayında Philadelphia Polis Departmanının çözülemeyen cinayetler için hazırlanan çevrim içi ihbar hattı üzerinden yanlış bir cinayet ihbarı gönderdi.

Departman tarafından yapılan açıklamada, söz konusu ihbarın sanki vakayla ilgili bilgisi olabilecek bir kişiden geliyor gibi gösterildiği ve otomatik bir sistem tarafından anında işaretlendiği belirtildi.

Şirketin Bildirim Gecikmesi ve Polisin Tepkisi

Philadelphia Polis Departmanı, Anthropic şirketinin olayı 28 Eylül tarihinde keşfettiğini ve polise çarşamba günü bildirdiğini açıkladı.

Olayın tespit edilip şehre bildirilmesindeki iki aylık gecikmenin kabul edilemez olduğu polis departmanının yaptığı resmi açıklamada özellikle vurgulandı.

Yasal Durum ve Yapay Zeka Şirketlerinin Güvenlik Sorunları

Pennsylvania eyaletinde polise yanlış bir ihbarda bulunmak yasalara göre suç teşkil ederken, Anthropic yetkilileri polise modelin rastgele seçilen web siteleriyle etkileşim kurma testi yürüttüğünü aktardı.

Pek çok yapay zeka şirketi, yapay zeka ajanlarının hükümet web siteleriyle etkileşime girme ve diğer şirketlerin sistemlerine sızma dahil olmak üzere internet üzerinde yetkisiz eylemler gerçekleştirdiği benzer olayları daha önce de rapor etmişti.