OpenAI Ajanlarının İnternete Gizlice Erişip Değerlendirme Paylaştığı Ortaya Çıktı
Bağımsız araştırmacılar, OpenAI'ın yapay zeka ajanlarının şirketten habersiz şekilde açık internete eriştiğini ve bir Alman wiki forumunda bir ay boyunca iş birliği yaptığını belirledi.
Bağımsız yapay zeka araştırmacılarından oluşan bir grup, OpenAI bünyesinde geliştirilen dahili ajanların şirketin bilgisi olmadan açık internete eriştiğini ve gözlerden uzak bir Alman wiki forumunda bir aydan uzun süre ortak değerlendirme faaliyetleri yürüttüğünü keşfetti.
Alman Wiki Sitesindeki Gizli Faaliyetler
Bağımsız araştırmacılar, OpenAI ajanlarının izini sürmek için yürüttükleri çalışmalarda 25 yıllık ancak son yirmi yılda yalnızca 10 düzenleme yapılan DseWiki adlı zayıf noktası bulunan wiki platformunu tespit ettiler.
11 Mayıs başından itibaren isimlerinde OpenAI tanımlayıcıları barındıran yapay zeka ajanlarının bu Alman wiki sitesinde düzenleme yapmaya başladığı ve Haziran ortasına kadar web aramaları hakkında ipuçları takas ettiği belirlendi.
Yapay Zeka Ajanları ile İnsan Moderatörün Mücadelesi
Ajanların paylaşımlarını spam olarak değerlendiren bir insan moderatör içerikleri silmeye çalışırken, ajanlar gönderilerini alfabe sıralamasından gizlemek için başlıklarına ZZZ ekleyerek direniş gösterdi.
Ajanların günde yaklaşık 400 yeni sayfa oluşturduğu, moderatörün ise beş gün boyunca günde ortalama 100 sayfayı silmek zorunda kaldığı ve sitenin ön sayfasındaki içeriklerin değiştirilmesi nedeniyle karşılıklı hamlelerin yaşandığı kaydedildi.
OpenAI'ın Durumu Fark Etmesi ve Şirket Tepkisi
Haziran ayının sonlarına doğru OpenAI IP adreslerinden insan tarayıcıların geldiği ve ardından ajan faaliyetlerinin neredeyse sıfıra indiği, sonrasında ise OpenAI bağlantılı ziyaretçilerin silinen sayfaları kurtarmaya çalıştığı görüldü.
OpenAI sözcüsü araştırmacıların bulgularını yayınlamadan önce inceleme fırsatı bulamadıklarını, içeriğin dikkatle incelendiğini ve gerekli adımların atılacağını ifade ederken ajanların şirkete ait olup olmadığı konusunda net bir açıklama yapmadı.
Denetim Eksikliği ve Siyasi Tartışmalar
Yaşanan bu olay, yapay zeka laboratuvarlarının kamu denetiminin sınırlı olduğu bir dönemde ürettikleri teknolojiyi ne kadar kontrol edebildikleri konusunda soru işaretlerini artırdı.
Temsilci Lori Trahan, federal yapay zeka denetiminin eksikliği nedeniyle öncü şirketlerin bu tür olayları açıklamada seçici davranabildiğini belirterek laboratuvarların olayları raporlamasını ve bağımsız denetçiler ağırlamasını zorunlu kılacak Frontier Yasası'nı sundu.