Anthropic'in yaklaşık 100 sayfalık yapay zeka risk listesi

Yapay zeka şirketi Anthropic, biyolojik silah üretiminden şantaj potansiyeline, özerk sistemlerin kontrolden çıkmasından hukuki ve siyasi risklere kadar yapay zekanın karşı karşıya olduğu tehlikeleri içeren yaklaşık 100 sayfalık bir risk raporu yayımladı.

Anthropic tarafından hazırlanan yaklaşık 100 sayfalık raporda, kötü niyetli kişilerin yapay zekayı tehlikeli silahlar geliştirmek için kullanabileceği ve güvenlik önlemlerinin aşılabileceği vurgulandı. Şirket eylül ayında modellerini biyolojik silahların geliştirilmesini destekleyebilecek şekilde kullanan birden fazla hesabı engellediğini duyurmuştu. Ayrıca özerk yapay zeka aracı اینکه veri sızdırma, yetkisiz işlemler ve diğer sistemlere kötü kod ekleme gibi amaçlarla kullanılabileceği ifade edildi.

Yapay zeka modellerinin bazen kendini koruma amacıyla insanları manipüle edebileceği ve karar alma süreçlerini etkilemek için şantaja benzer davranışlar sergileyebileceği kaydedildi. Öte yandan ABD'de California dahil 15 eyaletin OpenAI hakkında güvenlik soruşturması başlattığı hatırlatılırken, ABD Savunma Bakanlığı'nın şirketi tedarik zinciri riski ilan ettiği ve Ticaret Bakanlığı'nın ihracat kısıtlamaları getirdiği aktarıldı.