Yapay Zeka Düzenlemelerine Uyumluluk İçin Metin Damgalama Yöntemi Duyuruldu
Avrupa Birliği yapay zeka yasasının getirdiği kurallar doğrultusunda, küresel API kullanıcılarına yönelik isteğe bağlı metin damgalama sistemi ve AB'deki ChatGPT çıkışları için görünmez filigran uygulaması devreye sokuluyor.
OpenAI, Avrupa Birliği Yapay Zeka Yasası kapsamında geliştirilen yeni metin damgalama yaklaşımını paylaştı; buna göre küresel API kullanıcıları için isteğe bağlı sistem sunulurken, AB bölgesindeki ChatGPT ve Codex metin çıktılarında görünmez filigran dönemi başlıyor.
Metin Damgalama Yaklaşımı
İçerik menşei, kullanıcıların metinlerin nereden geldiğini, nasıl oluşturulduğunu veya düzenlendiğini anlamasına yardımcı olmak amacıyla geliştirilmektedir. Daha önce görsel ve ses içerikleri için araçlar sunulmuş olup, şimdi de metin damgalama stratejisi hayata geçirilmektedir.
API ve ChatGPT Uygulamaları
Bugünden itibaren küresel API müşterileri, belirli modeller için metin damgalama özelliğini isteğe bağlı olarak seçebilecektir. Bu özellik API'de varsayılan olarak kapalı tutulacak ve önümüzdeki haftalarda Avrupa Birliği'ndeki ChatGPT ve Codex çıktılarına eklenecektir.
Dedektör ve Açık Kaynak Planı
Metin damgası dedektörüne erişim için başvurular açılmış olup süreç başlangıçta onaylanmış araştırmacılarla sınırlı tutulacaktır. Ayrıca teknolojinin başkaları tarafından geliştirilebilmesi için açık kaynak olarak sunulması planlanmaktadır.
Teknolojik Sınırlamalar ve Performans
textGrain adı verilen teknoloji, modelin kelime seçimlerine görünmez istatistiksel sinyaller eklemektedir. Değerlendirmelerde performansın diğer yaklaşımlarla eş değer olduğu görülmüş, ancak kısa metinlerin tespit edilmesinin daha zor olduğu belirtilmiştir.