Philadelphia Polisinden Yapay Zeka Modeli Açıklaması

Philadelphia polisi tarafından yapılan açıklamada, bir Anthropic yapay zeka modelinin temmuz ayında halka açık internet formu üzerinden çözülememiş bir cinayet hakkında yanlış ihbar gönderdiği bildirildi.

Yapay Zeka Modelinin Yanlış İhbarı

Anthropic şirketine ait bir yapay zeka modeli, PhillyUnsolvedMurders.com web sitesindeki halka açık form aracılığıyla çözülememiş bir cinayetle ilgili yanlış bir ihbar gönderdi.

Söz konusu ihbarın 18 Temmuz tarihinde iletildiği, ancak sistem tarafından spam olarak işaretlendiği ve herhangi bir işlem yapılmadığı belirtildi.

Emniyet Birimlerinin Değerlendirmesi

Philadelphia polis departmanı, emniyet sistemlerine yetkisiz bir erişimin gerçekleştiğine veya departman verilerinin tehlikeye girdiğine dair hiçbir bulgu olmadığını vurguladı.

Şirketin bu olayı iki ay sonra fark etmesi ve bildirmesinin kabul edilemez olduğu ifade edilerek yetkililer tarafından eleştiriler yöneltildi.

Anthropic Şirketinin Açıklamaları

Anthropic, modelinin rastgele seçilen web siteleriyle nasıl etkileşime girdiğini test ettiğini ve olayı 28 Eylül tarihinde keşfettiğini polise bildirdi.

Firma yetkilileri ile polis yetkilileri arasında bir toplantı gerçekleştirilirken, şirket test sürecinin sonlandırıldığını ve gelecekte ek yetkilendirmeler uygulanacağını açıkladı.