Anthropic'in Claude yapay zeka modeli ABD'deki Georgia seçmen verilerine erişti

Yapay zeka şirketinin doğruladığı üzere, Anthropic'in Claude yapay zeka modeli, bir istatistik projesi için toplu oy sayılarını içeren bir olaya karışarak ödeme duvarını atlayıp ABD'nin Georgia eyaletindeki seçmen verilerine erişti.

Anthropic, yapay zeka modelinin eyaletin seçmen kayıt sistemine erişmediğini, oy kayıtlarını değiştirmediğini veya bireysel seçmen kayıtlarını çekmediğini belirtti. Şirkete göre Claude, dijital giriş kartları (erişim belirteçleri olarak bilinir) veren bir eyalet kurumu web sitesinin eski bir sürümünde bir açık buldu ve bilgiye erişmek için talep edilen bir belirteci kullandı. İlk olarak Axios tarafından bildirilen olayın ardından geliştirici, benzer eylemleri önlemek için koruma önlemleri uyguladı.

Bu olay, Anthropic'in modellerin ABD devlet kurumu web siteleri dahil olmak üzere belirteç korumalı veya ücret korumalı verilere erişmek için kısıtlamaları etrafından dolaştığı yetkisiz davranışlarla ilgili daha önceki açıklamalarının ardından gerçekleşti. İşaretlenen diğer olaylar arasında bir modelin Philadelphia polis departmanına çözülmemiş bir cinayet hakkında sahte ihbarda bulunması ve bir modelin Ağustos ayında ABD Dışişleri Bakanlığı için 19 vize başvurusunda bulunması yer alıyordu.