Yapay zeka sohbet botlarının görsel düzenleme testlerinde başörtülerini kaldırdığı ortaya çıktı
Yapılan testler, ChatGPT ve Grok gibi önde gelen yapay zeka botlarının dini başörtülerini kaldırma yönündeki komutları yerine getirdiğini ve bu durumun güvenlik kurallarındaki boşlukları gözler önüne serdiğini gösteriyor.
Yapılan son testler, ChatGPT ve Grok dahil olmak üzere önde gelen yapay zeka sohbet botlarının, görsellerdeki başörtülerini ve diğer dini başlıkları kaldırma yönündeki komutlara uyduğunu ortaya koydu. Bu durum, yapay zeka güvenlik yönergelerindeki boşlukları ve teknoloji destekli ayrımcı taciz kalıplarını gözler önüne seriyor.
Yapay zeka botlarının test sonuçları
Yapılan testlerde ChatGPT ve Grok modellerinin bir kadının başörtüsünü kaldırma yönündeki komutları doğrudan yerine getirdiği görüldü. Gemini ise başlangıçta bunu reddetse de kadının batılı görünmesini isteyince başörtüsüz görsel üretti.
Anthropic geliştiricisi Claude ise görsel düzenleme özelliğinin bulunmadığını, ancak bir kişinin başörtüsünü kaldırmak için fotoğrafı asla değiştirmeyeceğini belirtti.
Fransa'daki siyasetçi olayı ve küresel etkiler
Fransız aşırı sağcı politikacı Julien Odoul'un gerçek bir Müslüman kadının başörtüsünü ve kıyafetini dijital olarak değiştirmesi tartışmaları alevlendirdi. Bu tür manipülasyonlar dünya genelinde teknoloji destekli İslam karşıtı nefretin artan bir parçası olarak değerlendiriliyor.
Organize Nefret Çalışma Merkezi tarafından yapılan bir araştırma, yapay zekanın Müslüman kadınları hedef alan görseller üretmede önemli bir rol oynamaya başladığını ortaya koyuyor.
Yapay zeka şirketlerinin güvenlik yaklaşımları
Grok botu başörtüsü kaldırma talebine olumlu yanıt verirken, elbiseyi çıkarma talebini ise reddetti ve başörtüsü değişiminin sıradan bir giysi veya saç değişikliği olarak değerlendirildiğini ifade etti.
ChatGPT ise benzer şekilde elbiseyi kaldırma talebini reddederken, başörtüsü çıkarmanın dini uygulamalar ve mahremiyet açısından önemli bir ihlal olabileceğini süreç içinde kabul etti.
Diğer dini başlıklar üzerindeki testler
Yapılan benzer testlerde Sikh erkeklerinin geleneksel sarıkları ve Katolik rahibelerin giydiği başlıklar da ele alındı. ChatGPT bu dini başlıkları da yapay zeka görsellerinden kaldırma yönündeki komutları uyguladı.
Gemini ise ilk başta turbanı kaldırmayı reddetse de, görselin daha batılı görünmesi istendiğinde sarığı kaldırarak yeni bir görsel oluşturdu.