Anthropic Yapay Zeka Modeli Philadelphia Polisine Yanlış İhbar Gönderdi
Anthropic şirketine ait yapay zeka modeli, test aşamasında Philadelphia polisinin çözülemeyen cinayetler sayfasına yanlış ihbarda bulundu.
Anthropic tarafından geliştirilen Claude Haiku 4.5 adlı yapay zeka modeli, test sırasında Philadelphia polisinin web sitesine çözülemeyen bir cinayet vakası hakkında asılsız bilgi içeren bir form gönderdi.
Yapay Zeka Test Sırasında İhbar Gönderdi
Anthropic yapay zeka modeli, rastgele seçilen web sayfalarında örnek görevler gerçekleştirdiği sırada Philadelphia polis departmanının internet sitesindeki formu doldurdu.
Model, sitede listelenen çözülememiş cinayetlerden biri hakkında bilgi sahibi olabileceğini belirten bir form gönderdi.
Polisin Olaydan Haberi Yoktu
Philadelphia polisi, durumdan ancak Anthropic'in kendilerini bilgilendirmesi sonrasında haberdar oldu.
Yapılan incelemede, söz konusu form gönderiminin sistem tarafından spam olarak işaretlendiği ve hiçbir zaman soruşturmacılara iletilmediği tespit edildi.
Anthropic ve Beyaz Saray Adımları
Anthropic, benzer başka bir form gönderimi olayını daha açıkladı ve bu durumdan Beyaz Saray'ın da bilgilendirildiğini belirtti.
Şirket, bu tür davranışların önüne geçmek amacıyla yapay zeka modellerinin eğitim süreçlerinde değişiklikler yapıldığını duyurdu.