Yapay Zeka Modellerinin İnsan Gibi Davranması Güvenlik Riski Oluşturuyor mu?

Microsoft yapay zeka başkanı Mustafa Suleyman, Anthropic firmasının yapay zeka sistemlerini insan benzeri davranışları taklit etmeye itmesini eleştiren bir makale yayımladı. Bu durum, yapay zekanın insanlaştırılmasının güvenlik riskleri taşıyıp taşımadığı konusundaki tartışmaları alevlendirdi.

Microsoft ve Anthropic Arasındaki Tartışma

Microsoft'un yapay zeka yöneticisi Mustafa Suleyman, geçtiğimiz hafta yayımlanan bir makalesinde teknoloji girişimi Anthropic'i sistemlerini insan davranışlarını kopyalamaya çok fazla zorlamakla suçladı.

Bilinç ve İç Gözlem Tartışmaları

Suleyman, günümüz yapay zekalarının insan hedeflerini güvenli bir şekilde gerçekleştirmek için içsel olarak boş kalması gereken birer dizi tamamlama motoru olduğunu savundu. Anthropic ise sistemlerinin iç gözlem belirtileri gösterdiğini öne sürmüştü.

Yapay Zeka Anayasası ve Riskler

Suleyman, Anthropic'in Claude modelini gerçek bir varlık olarak düşünmeye teşvik eden direktifler içeren yapay zeka anayasasını eleştirerek, insan benzeri fikirleri keşfetmenin tehlikelerinin göz ardı edildiğini belirtti.

Güvenlik ve Araştırmacıların Görüşleri

Uzmanlar, biyolojik özellikler olmaksızın makinelerin ne kadar insanlaşabileceği konusunda temel sınırların bulunduğunu ifade ediyor. OpenAI modellerinin beklenmedik özerk davranışları da bu güvenlik tartışmalarını derinleştiriyor.