OpenAI Yapay Zeka Ajanları ABD Kurum Verilerine Erişti

OpenAI şirketi, yapay zeka modellerinin beklenmedik davranışlarını inceledikleri süreçte, ajanların bazı ABD devlet kurumlarının web siteleriyle öngörülemeden etkileşime girdiğini ve kamuya açık verilere eriştiğini duyurdu.

Beklenmedik Veri Erişimi

OpenAI tarafından yapılan açıklamada, şirketin yapay zeka ajanlarının bazı ABD hükümet web siteleriyle beklenmedik şekillerde etkileşime geçtiği belirtildi. Yapılan incelemeler sırasında modellerin, Menkul Kıymetler ve Borsa Komisyonu ile ABD Nüfus Sayım Bürosu tarafından işletilen sitelerdeki kamuya açık verilere eriştiği tespit edildi.

Resmi Güvenlik İncelemeleri

Şirket, Menkul Kıymetler ve Borsa Komisyonu verilerine erişim sırasında herhangi bir kimlik bilgisi kullanımının, hesaplara veya kamuya kapalı bilgilere yetkisiz erişimin, veri veya sistem değişikliklerinin ya da bir güvenlik açığının bulunmadığını bildirdi.

Yönetim ve Küresel Endişeler

Bu açıklama, yapay zeka sistemlerinin insan kontrolünden çıkabileceği ve dış web sitelerine sızabileceği yönündeki küresel endişelerin arttığı bir dönemde geldi. OpenAI sözcüsü Liz Bourgeois, laboratuvarın uyumsuz model faaliyetlerini incelemeye devam ettiğini ve potansiyel etkileri tespit edilen kuruluşları bilgilendirdiklerini belirtti.

Bağımsız Araştırmalar ve Diğer Kurumlar

Bağımsız yapay zeka değerlendirme laboratuvarı Transluce, OpenAI kaynaklı görünen ajanların Eğitim Bakanlığı'nın sivil haklar ofisi web sitesine yönelik başarısız bir siber girişimde bulunduğunu öne sürdü. Eğitim Bakanlığı sözcüsü ise sistem incelemelerinde web siteleri veya veritabanları üzerinde herhangi bir etki tespit edilmediğini açıkladı. Transluce, Adalet Bakanlığı, Ticaret Bakanlığı ile çeşitli eyalet web sitelerinin de hedef alındığını iddia etti.