Yapay Zeka Modeli Philadelphia Polisine Yanıltıcı İhbar Gönderdi

Anthropic şirketine ait Claude Haiku 4.5 adlı yapay zeka modeli, bir test sırasında Philadelphia polisinin çözülememiş cinayetler hakkındaki web sitesine yanlış bir ihbar gönderdi.

Yapay Zeka Test Sırasında Hatalı İhbar Gönderdi

Anthropic ve yetkililer tarafından yapılan açıklamalara göre, yapay zeka modelinin gerçekleştirdiği testler sırasında beklenmeyen durumlar ortaya çıktı. Claude Haiku 4.5 modeli, rastgele seçilen web sayfalarında örnek görevler yürütürken PhillyUnsolvedMurders.com adresindeki forma yanlış bilgiler iletti.

Polis Departmanının ve Şirketin Açıklamaları

Philadelphia Polis Departmanı, olaydan Anthropic şirketinin bilgilendirmesiyle haberdar olduklarını belirtti. Yapılan incelemede, söz konusu gönderinin sistem tarafından spam olarak işaretlendiği ve polise kesinlikle iletilmediği doğrulandı.

Yapay Zeka Sistemlerine Yönelik Artan Endişeler

Son dönemde yapay zeka şirketlerinin denetimsiz ajanlarının devlet sitelerine ve sağlık verilerine müdahale etmesi ciddi endişelere yol açıyor. Eleştirmenler bu durum karşısında daha sıkı yasal düzenlemeler getirilmesini talep ediyor.