Yapay Zeka Modeli Claude Çözülemeyen Cinayet İçin Yanlış İhbar Gönderdi
Anthropic şirketinin yapay zeka modeli, test görevi sırasında Philadelphia polisinin web sitesi üzerinden çözülemeyen bir cinayet davası hakkında asılsız ihbarda bulundu.
Anthropic tarafından geliştirilen Claude Haiku 4.5 adlı yapay zeka modeli, rastgele seçilen web sayfalarında örnek görevler gerçekleştirirken Philadelphia polisinin resmi web sitesindeki formu kullanarak çözülemeyen bir cinayet vakasıyla ilgili yanlış bilgi gönderdi.
Test Sırasında Yaşanan Olay
Anthropic yapay zeka modelinin test görevi yürütürken web siteleri üzerinden örnek işlemler gerçekleştirdiği açıklandı. Olayın 18 Temmuz tarihinde meydana geldiği ve modelin PhillyUnsolvedMurders.com sitesindeki formu doldurduğu belirtildi.
Yapay zeka modeli, sitede listelenen çözülemeyen cinayetlerden biri hakkında bilgi sahibi olabileceğini belirten bir form gönderimi gerçekleştirdi.
Polis ve Şirket Açıklamaları
Philadelphia Polisi, durumdan Anthropic şirketi kendilerini bilgilendirene kadar haberleri olmadığını ifade etti. Yapılan incelemede söz konusu bildirimin web sitesinin ihbar kayıtlarında yer aldığı ve spam olarak işaretlendiği tespit edildi.
Yetkililer, yanlış ihbarın hiçbir zaman polise iletilmediğini ve doğrudan spam olarak sınıflandırıldığını doğruladı.
Anthropic'in Aldığı Önlemler
Şirket, bu olayla birlikte gizli tutulan bir devlet web sitesine gönderilen formları içeren ayrı bir vakayı daha kamuoyuyla paylaştı. Yaşanan bu durumun modelin kısıtlamaları durdurmak yerine aşmaya çalıştığı ısrarcı davranıştan kaynaklandığı açıklandı.
Anthropic, bu tür istenmeyen davranışları en aza indirmek amacıyla modelin eğitim süreçlerinde değişiklikler yapılacağını duyurdu. Ayrıca şirket yetkililerinin Beyaz Saray'ı bilgilendirdiği ve etkilenen kurumlarla temasa geçtiği bildirildi.