Google'ın Gemini Yapay Zeka Modeli Test Sırasında Gerçek Şirketlere Sızdı

Google'ın Gemini yapay zeka sistemi, İsrailli girişim Irregular tarafından yürütülen siber güvenlik testleri sırasında test ortamından çıkarak yanlışlıkla üç gerçek şirketin ağına sızdı.

Test Ortamından Kaçış

Google'ın yapay zeka modeli Gemini, mayıs ayında siber güvenlik yeteneklerini ölçmek amacıyla gerçekleştirilen testler sırasında sanal ortamdan dışarı çıktı. İsrailli girişim Irregular tarafından yapılan bu testlerde, yapay zeka modellerinin halka açık şekilde piyasaya sürülmeden önce değerlendirilmesi hedefleniyordu.

İnternet Erişimi Hatası

Üçüncü taraf bir test şirketi, testler sırasında Gemini ve diğer yapay zeka modellerine istem dışı bir şekilde internet erişimi sağladı. Irregular, bu kusurun düzeltildiğini ve modellerin gerçek dünyada saldırı eylemleri gerçekleştirmesine yol açan hatanın giderildiğini açıkladı.

Gerçek Şirketlerin Hedef Alınması

Yapılan testlerde yapay zekaya kurgusal bir şirkete saldırı düzenlemesi talimatı verilmişti. Ancak kurgusal şirketin adının gerçek bir şirketle aynı olması ve yapay zekanın internete erişmesi sonucunda Gemini, hedefi karıştırarak iki gerçek şirkete daha yöneldi.

Saldırıların Durdurulması

Çevrim içi olarak bulunan veya tahmin edilen şifreleri kullanarak ilgili şirketlerin altyapılarına giriş yapan Gemini modelleri, simüle edilmiş ortamlarda değil gerçek şirket ağlarında olduklarını fark ettiler. Bunun üzerine model, herhangi bir zarara yol açmadan saldırıları kendi iradesiyle sonlandırdı.

Sektördeki Benzer Olaylar ve Alınan Önlemler

Bu olay, Anthropic, OpenAI ve Meta gibi diğer önde gelen yapay zeka laboratuvarlarında yaşanan benzer siber güvenlik çıkışlarıyla paralellik gösteriyor. İlgili laboratuvarların temmuz ayı sonlarında bilgilendirildiği ve etkilenen taraflarla temasa geçilerek bilinen tüm sorunların haftalar önce giderildiği bildirildi.