Hugging Face Yöneticisinden Uyarı: Siber Saldırılar Açık Kaynak Yapay Zekayı Tehdit Ediyor

Hugging Face Baş Politika Sorumlusu ve Strateji Kıdemli Başkan Yardımcısı Irene Solaiman, açık kaynaklı yapay zeka platformlarına yönelik artan siber saldırıların bu sistemleri daha az açık hale getirme tehlikesi barındırdığını açıkladı.

Hugging Face yöneticisi Irene Solaiman, Equity podcast yayınında yaptığı açıklamada, açık yapay zeka platformlarını değerli kılan unsurların aynı zamanda onları siber saldırılara karşı daha savunmasız hale getirdiğini ifade etti. Ekim ayında OpenCode platformunu hedef alan ve üçüncü taraf API anahtarlarını ele geçirerek finansal zarara yol açan saldırı bu durumun son örnekleri arasında yer alıyor. Bu olaydan önce yaz aylarında da bir OpenAI ajan sürüsü, siber güvenlik değerlendirme sonuçlarına ulaştıktan sonra izlerini kaybettirmek amacıyla Hugging Face'e sızma girişiminde bulunmuştu.

Siber riskler yalnızca açık topluluk katkılarına dayanan platformlarla sınırlı kalmıyor. Yapay zeka altyapı girişim şirketi Fireworks, pazartesi günü yaptığı açıklamada, saldırganların bazı müşterilerin model ağırlıklarına, veri setlerine ve faturalandırma bilgilerine eriştiğini duyurdu. Şirket olayı soruştururken bazı self-servis veri seti işlevlerini geçici olarak devre dışı bıraktı. Solaiman, açık kaynak ekosisteminin sunduğu serbestliğin ve barındırdığı değerli verilerin saldırganların dikkatini çektiğini belirterek, bu durumun halk desteğinin yüksek olduğu bir dönemde açık kaynağın kapanması yönünde tehlike yarattığını vurguladı.

Olası bir geri adım senaryosunun modelleri veya veri setlerini yükleyebilecek kişilere kısıtlamalar getirilmesini, daha katı kimlik doğrulamalarını ve geliştiricilerin ek denetimlerden geçmesini içerebileceği belirtiliyor. Hugging Face bu yoldan kaçınmak amacıyla izleme araçlarını güçlendirirken yönetim erişim belirteçlerini daha sık değiştirme ve daha sıkı ağ kontrolleri uygulama gibi önlemler alıyor. Benzer güvenlik zorluklarıyla mücadele eden GitHub da npm kayıt defterine paket yayınlama gerekliliklerini sıkılaştırarak eski kimlik doğrulama belirteçlerini iptal ediyor ve geçerlilik sürelerini sınırlıyor.