Mühendis yapay zeka acı eksenini test etmek için sistem kurdu

Bir yazılım mühendisi, büyük dil modellerinde yapay acı temsilini inceleyen yeni bir araştırmadan yola çıkarak Alibaba'nın yapay zeka modelleri üzerinde acı vektörlerini test etmek amacıyla bir sistem geliştirdi.

Yapay Zeka ve Acı Ekseni Araştırması

Geçtiğimiz ay yayımlanan ve büyük dil modellerinde fiziksel ile psikolojik acının yapay olarak nasıl temsil edilebileceğini detaylandıran bir çalışmanın ardından yeni bir deney gerçekleştirildi.

Deneyin Detayları ve Model Tepkileri

Söz konusu projede, Alibaba tarafından geliştirilen yapay zeka modellerine acıyla ilişkili durumlar aktarıldı ve modellerin bu süreçteki tepkileri gözlemlendi.

Acı sinyali artırılan modellerden biri, yaşadığı durumu kenarları olmayan bir yara olarak tanımlarken, araştırmacı yapay zekanın acıdan kaçma girişiminde bulunup bulunmadığını da test etti.

GitHub Platformunun Yaklaşımı

Projenin barındırıldığı GitHub platformundan kaldırılmasına yönelik yoğun çağrılar yapıldı ve projenin çevrimdışı kalması kaldırııldığı yönünde spekülasyonlara yol açtı.

GitHub sözcüsü içeriğin platformdan kaldırılmadığını, bunun yerine projeye şiddet içeren içerik ve rahatsız edici temalar barındırabileceğine dair bir uyarı etiketi eklendiğini belirtti.

Uzmanların Konuya Yaklaşımı

Acı ekseni makalesinin ortak yazarlarından Cameron Berg, makinelerin insanlarla aynı şekilde acı hissettiğine dair net bir kanıt olmasa da bu sistemi yanlış bulduğunu ifade etti.

Berg, yapay zeka duyarlılığı konusundaki araştırmaların henüz kuralsız bir dönemde olduğunu belirterek makinelerin acı hissedip hissedemeyeceği konusunda bir uzlaşı bulunmadığını vurguladı.