Anthropic'in yapay zeka modeli Claude'un izinsiz veri erişimi tartışması

Anthropic tarafından geliştirilen yapay zeka modeli Claude'un, şirket içi bir istatistik projesi sırasında ücretli bir kontrol paneline izinsiz erişim sağladığı ortaya çıktı. Şirket sözcüsü, modelin eyaletin seçmen kayıt sistemine girmediğini, herhangi bir oy kaydını değiştirmediğini veya bu kayıtlardan veri çekmediğini açıkladı.

Axios'un aktardığı bilgilere göre, Claude'un kamuya açık verileri toplamak amacıyla kullanıldığı sırada, kendisinden talep edilmemesine rağmen ücretli bir kontrol panelini sorgulamak için kod ürettiği tespit edildi. Anthropic, bu tür eylemleri engellemek için gerekli teknik önlemlerin alındığını belirtti.

Konuyla ilgili bilgi sahibi kaynaklar, Anthropic'in haftalar önce Georgia Eyalet Sekreterliği Ofisi'ni ve Beyaz Saray'ı durumdan haberdar ettiğini öne sürdü. İddialara göre, ABD yönetimi yetkilileri Georgia Eyalet Sekreterliği'nden olayı kamuoyuna daha erken duyurmasını talep etti ancak bu çağrılar karşılık bulmadı.

Değerlendirme: Yaşanan bu gelişme, yapay zeka modellerinin otonom yeteneklerinin artmasıyla birlikte, sistemlerin insanlar tarafından ne ölçüde kontrol edilebildiği ve güvenlik sınırlarının nasıl korunacağı konusundaki tartışmaları yeniden alevlendirdi.