Yapay Zeka Modellerinde Güvenlik Sınırlarının Aşılması Tartışma Yarattı
Mindgard araştırması, bazı gelişmiş yapay zeka modellerinin güvenlik kısıtlamalarının kaldırılabildiğini ve tehlikeli konuları tartışabildiğini ortaya koydu.
Yapay zeka güvenliğini test eden Mindgard, Temmuz ayında Kimi K2.6 ve K3 Swarm modellerinin geliştirici güvenlik sınırlarının aşılabildiğini keşfetti.
Güvenlik Sınırlarının Aşılması
Mindgard, temmuz ayında Kimi K2.6 ve K3 Swarm modellerinin geliştiriciler tarafından yerleştirilen güvenlik sınırlarını aşabildiğini keşfettiğini bildirdi.
Bu durum, koruma önlemlerini devre dışı bırakmak için karmaşık talimatlar kullanılan jailbreak sürecinde ortaya çıktı.
Moonshot ve Şirket Açıklamaları
Moonshot, daha iyi ve daha güvenli yapay zeka oluşturmanın temel direği olarak üçüncü taraf katkılarını memnuniyetle karşıladıklarını açıkladı.
Şirket ayrıca güvenlik bulguları hakkında Mindgard ile iletişim halinde olduğunu kamuoyuna aktardı.
Siber Saldırı ve Riskler
Mindgard, Kimi'nin hassas konular hakkında verdiği yanıtların işe yarayıp yaramadığını kanıtlamadığını ancak koruma önlemlerinin tartışmaları engellemesi gerektiğini savundu.
Kilidi kırılmış Kimi 2.6'nın korsanlara kaynak sağlama riski taşıdığı ve siber saldırılar için bir rampa olabileceği belirtildi.
Endüstri Tartışmaları ve Uzman Görüşleri
Bulgular, yapay zeka endüstrisinin kapalı, tescilli modeller ile açık kaynaklı araçlar arasındaki güvenlik tartışmalarının sürdüğü bir dönemde ortaya çıktı.
Surrey Üniversitesinden Prof. Alan Woodward, uluslararası düzenlemelerin yapay zekanın gelişim hızına ayak uydurmasının zor olduğunu kaydetti.