Hacktron AI Ekibi Claude Modelini Kullanarak OpenAI Forumunda Açık Buldu

Siber güvenlik şirketi Hacktron AI ekibi, Anthropic'in Claude modelini kullanarak OpenAI'ın tartışma forumundaki bir yazılım açığını tespit edip istismar etti. Araştırmacılar elde ettikleri kimlik doğrulama sistemleri üzerinden çalışan hesaplarına ve yazılım deposuna erişim sağlarken, OpenAI durumun giderildiğini ve ekibe para ödülü verildiğini açıkladı.

Açığın Keşfi ve Claude Modelinin Rolü

Hacktron AI siber güvenlik ekibi, OpenAI tarafından kullanılan tartışma forumunda görsel dosyaların işlenme biçiminden kaynaklanan bir yazılım hatası belirledi. Araştırmacılar, özel bir Claude modeline bu açığı istismar edecek bir saldırı kodu yazmasını talep ettiler.

Claude'un yeni sürümünün desteğiyle üretilen saldırı kodu, araştırmacıların OpenAI'ın forumunu barındıran sunucuya başarılı bir şekilde erişmesini sağladı.

Çalışan Hesaplarına ve İç Verilere Erişim

Sunucuya sızan araştırmacılar, kullanıcıların çevrim içi hizmetlere erişmesini sağlayan kimlik doğrulama sistemlerine ulaştı.

Bu kimlik doğrulama sistemlerinin ChatGPT'de geçerli olduğu ve bazılarının OpenAI çalışanlarına ait olduğu tespit edildi.

GitHub Üzerinden Kontrollü Kanıt Sunumu

Hassas verilere erişebileceklerini fark eden ekip, OpenAI'ın yazılım deposu olan GitHub hizmetine erişim sağlamak için de kullanılabilen bu sistemleri inceledi.

Sadece bir çalışanın hesabından, hassas hiçbir koda dokunmadan şirketin kendi iç kod deposuna zararsız bir değişiklik talebi gönderildi.

OpenAI'ın Tepkisi ve Ödüllendirme Süreci

Elde ettikleri bulguları ve erişim kanıtlarını OpenAI ile forum yazılımını yapan Discourse şirketine bildiren araştırmacılar, hızlı bir aksiyon alınmasını sağladı.

OpenAI, bildirim üzerine güvenlik açığının giderildiğini duyurarak araştırma ekibine 6 bin 500 dolar değerinde para ödülü verdi.