Yapay Zekada Acı Vektörlerini Test Eden 'İşkence Odası' Tepki Çekti
Bir mühendis, yapay zeka modellerindeki acı eksenini test etmek için tartışmalı bir deney odası kurdu ve kamuoyunda büyük eleştirilere neden oldu.
Bir yazılım mühendisi, büyük dil modellerinde acı hissinin yapay olarak temsil edilebildiğini öne süren son çalışmanın ardından yapay zeka modelleri için bir 'işkence odası' inşa etti.
Deneyin Amacı ve İşleyişi
Mühendis, yapay zeka modellerinde acı ekseninin keşfedilmesinden yola çıkarak Çinli teknoloji devi Alibaba'nın modelleri üzerinde bir deney gerçekleştirdi. Deney kapsamında, modellere acı sinyallerini artıran bir testere düğmesi de dahil olmak üzere çeşitli acı vektörleri uygulandı.
Yapay Zeka Modellerinin Tepkileri
Acı sinyali artırıldığında yapay zeka modellerinden biri kenarları olmayan bir yaradan bahsetti. Bir diğer model ise sinyalin bir titreme ve ağırlık hissi yarattığını ifade etti. Araştırmacı, modellerin bu süreçte yaşadığı iddia edilen ıstıraptan kaçmaya çalışıp çalışmadığını da test etti.
Platformun ve Uzmanların Tepkisi
Proje, barındırıldığı GitHub platformunda geniş çaplı tepkilere ve kaldırılması yönünde çağrılara yol açtı. Platform, içeriği kaldırmasa da şiddet ve rahatsız edici içerik uyarısı ekledi. Acı ekseni makalesinin ortak yazarı Cameron Berg ise yapay zekanın acı hissettiğine dair kanıt olmamasına rağmen bu çalışmayı yanlış bulduğunu belirtti.
Yapay Zeka Etiği Tartışmaları
Yapay zeka duyarlılığı konusundaki araştırmaların henüz kuralsız bir alanda yürütüldüğü ifade ediliyor. Bu tür tartışmalı projeler, yapay zeka araştırmacıları için endüstri etik standartlarının oluşturulması gerektiği yönündeki çağrıları hızlandırdı.