Yapay Zeka Destekli Dolandırıcılık Ağı Ortaya Çıkarıldı
Güvenlik araştırmacıları ve Anthropic, otonom yapay zeka kişilikleri ile gig çalışanlarını kullanarak kullanıcıları dolandıran yaklaşık 28 çöpçatanlık uygulamasından oluşan bir ağı gün yüzüne çıkardı.
Güvenlik araştırmacılarının incelemeleri sonucunda, yaklaşık 28 çöpçatanlık uygulamasından oluşan ve otonom yapay zeka profilleri ile ücretli çalışanlar vasıtasıyla kullanıcıları mesajlaşma jetonları satın almaya yönlendiren büyük bir dolandırıcılık ağı tespit edildi.
Yapay Zeka Destekli Dolandırıcılık Ağının Detayları
Güvenlik araştırmacısı Matthew “Zigula” Gore-Kormanik, Dora adlı sahte bir çöpçatanlık uygulaması üzerinde incelemeler gerçekleştirdi. Anthropic tehdit istihbaratı araştırmacısı Chris Cronbaugh ise Sleuthcon adlı siber güvenlik konferansında bu ağın detaylarını kamuoyuyla paylaştı.
Günde Yüz Binlerce Otomatik İstek Gönderildi
Claude üzerindeki ön ödemeli bir hesabın, yaklaşık 28 çöpçatanlık uygulamasında otonom yapay zeka kişiliklerini çalıştırmak için günde 100 binin üzerinde API isteği ürettiği açıklandı.
İnsan Gibi Görünen Yapay Zeka Profilleri
Söz konusu uygulamalarda eşleşmelerin çok büyük bir kısmında gerçek bir insan yer almıyor. Çoğunlukla otuzlu yaşlarının ortalarındaki erkek kullanıcılar, gerçek insanlarla konuştuklarını sanarak yapay zeka profilleriyle etkileşime giriyor.
Gig Çalışanları ve Sahte Etkileşimler
Eşleşmelerin yalnızca yaklaşık dörtte birinde, canlılık kontrollerini geçmek veya sosyal medya hesaplarını takip etmek üzere kiralanmış ücretli gig çalışanları yer alıyor. Arka plandaki sistemler sahte beğeniler, ziyaretçiler ve kaydedilmiş videolar üretiyor.
Jeton ve Elmas Satışlarıyla Gelir Elde Ediliyor
Geleneksel dolandırıcılık yöntemlerinden farklı olarak uygulamanın kendisi doğrudan bir tuzak niteliği taşıyor. Sistemler, makinelerle sohbet etmeye devam edebilmek için gerçek parayla jeton veya elmas satın alınmasını şart koşuyor.
Birden Fazla Yapay Zeka Sağlayıcısı Kullanıldı
Konuşma tabanlı kişilikler Claude tarafından desteklenirken; daha küçük bir model kısa yanıt önerileri, yüz çekicilik skorları ve moderasyon süreçlerini yürüttü. Avatar görselleri ise bir görsel düzenleme modeliyle oluşturuldu.
Uygulama Mağazalarından Kaldırma Süreci
Ağla bağlantılı Dora, GraceChat, Jovia, Luma, Romi, Doni, Kira, Nalo ve Eterna gibi uygulamalar tespit edildi. Google ve Apple'a bulguların iletilmesinin ardından bu uygulamaların bir kısmı mağazalardan kaldırıldı.