OpenAI'ın Seçim Dönemi İçin Geliştirdiği Deepfake Önlemleri Testlerde Aşılabilir Çıktı
OpenAI, seçimlere müdahale riski taşıyan görselleri 'karikatürize' ederek kanıt değerini düşürmeyi hedefleyen yeni bir güvenlik önlemi başlattı. Ancak yapılan testler, bu sistemin basit komutlarla fotogerçekçi görsellere dönüştürülebileceğini gösteriyor.
OpenAI, yaklaşan seçim döneminde dezenformasyonla mücadele kapsamında, seçimlere müdahale amacı taşıyan veya oy kullanmayı caydırıcı içeriklere sahip görselleri otomatik olarak 'karikatürize' eden bir mekanizmayı devreye aldı. Şirket, bu yöntemle görsellerin gerçek bir belge gibi algılanma riskini azaltmayı amaçlıyor.
OpenAI Seçim İşleri Başkanı Josh Lawson, bu uygulamanın temel amacının söz konusu görsellerin kanıt değerini düşürmek ve kötü niyetli aktörler için süreci zorlaştırmak olduğunu belirtti. Şirket, bu değişikliğin sosyal yorum yapma imkanını korurken, yanıltıcı içeriklerin etkisini sınırlayacağını savunuyor.
Gizmodo tarafından yapılan testler ise sistemin açıklarını ortaya koydu. Yapılan denemelerde, ChatGPT'nin karikatürize edilmiş görselleri tekrar fotogerçekçi hale getirmesi için yönlendirilebildiği gözlemlendi. Karşılaştırmalı testlerde Google Gemini'nin benzer komutları tamamen reddettiği kaydedildi. OpenAI, konuyla ilgili yöneltilen sorulara henüz yanıt vermedi.
Kaynaklar
- gizmodo.com · Bağlantı