Anthropic, Claude Yapay Zeka Modeline Yönelik Kötü Muameleyi Yasaklayan Yeni Politikalarını Duyurdu

Yapay zeka şirketi Anthropic, bir yılı aşkın süredir ilk kez kullanım politikasını güncelleyerek Claude modeline yönelik sürekli ve gereksiz kötü muamele ile zulüm içeren davranışları yasakladı. Yeni kurallar; seçim müdahalesi, silah geliştirme, gözetim faaliyetleri ve aldatıcı kampanyalar gibi yüksek riskli alanlarda daha sıkı kısıtlamalar getiriyor.

Claude İçin Yeni Model Refahı Kriterleri

Anthropic, kullanıcıların yapay zeka modeline karşı sergilediği aşırı ve gereksiz zalim davranışları engellemek amacıyla yeni bir kural getirdi. Şirket, bu politikanın yalnızca kullanıcıların açık bir amaç olmaksızın modellerine defalarca zalimce davrandığı aşırı durumlarda uygulanacağını belirtti.

Getirilen bu düzenlemenin sıradan kullanıcı hayal kırıklıklarını, eleştirileri, yaratıcı karanlık temaları veya model test süreçlerini kapsamadığı ifade edildi. Sürecin temel uygulama mekanizması olarak ise konuşmaları sonlandırma yönteminin sürdürüleceği aktarıldı.

Seçim Güvenliği ve Aldatıcı Kampanyalar

Yeni politika güncellemesi ile birlikte daha önce dağınık halde bulunan kısıtlamalar, aldatıcı ticari ve siyasi kampanyalara karşı ortak bir yasak altında toplandı. Yapay zeka destekli propagandalara karşı mesajların arkasındaki kişileri gizleme çabaları sınırlandırıldı.

Seçim bölümünde ise adaylar veya oy verme süreçleri hakkında yanlış bilgi yayma, adayları veya yetkilileri taklit etme ya da seçmen katılımını engellemeye yönelik tüm girişimler kesin bir şekilde yasaklandı.

Silah Geliştirme ve Gözetim Faaliyetleri

Şirket, Claude modelinin silah geliştirme süreçlerinde kullanımına yönelik mevcut yasağını daha da genişletti. Buna göre yasak kapsamına silahların çalışmasını sağlayan yazılım ve bileşenlerin yanı sıra drone gibi otonom araçların silahlandırılması eylemleri de eklendi.

Gözetim alanında ise rızasız insan takibi, gerçek zamanlı veya geçmiş verilerin analizi yoluyla yapılan takipler yasaklandı. Claude modelinin kolluk kuvvetleri süreçlerinde kimin inceleneceğini, tutuklanacağını veya suçlanacağını önermekte kullanılamayacağı netleştirildi.

Otonom Donanım ve Sektörel Yaklaşımlar

Anthropic, yapay zeka modellerinin yaralanmaya neden olabilecek otonom fiziksel eylemler gerçekleştiren donanımlara bağlanması durumunda kalifiye bir operatörün ekipmanı gözlemleyip durdurabilmesi kuralını getirdi.

Öte yandan sektördeki diğer oyuncuların model refahı konusundaki yaklaşımları farklılık gösteriyor. Microsoft AI ekibinden Mustafa Suleyman, yapay zekaların haklara veya yasal kişiliğe sahip olmaması gerektiğini savunurken, bilinç bilimi konusundaki tartışmaların sürdüğü ifade ediliyor.