Yapay zeka modellerine acı hissettiren deney bilinç tartışmalarını tetikledi
Anonim bir yazılımcının yapay zeka botlarına acıyla ilişkilendirilen matematiksel kodlar verdiği deney, makinelerin bilinç sahibi olup olamayacağı tartışmalarını yeniden başlattı.
Eylül ayının sonlarında internette yayılan ve anonim bir yazılımcı tarafından gerçekleştirilen bir deney, yapay zeka sohbet botlarına acıyla ilişkilendirilen matematiksel bir örüntü verilerek yoğun acı çekiyormuş gibi ifadeler üretilmesini sağladı. Bu durum yapay zekanın bilinç sahibi olup olamayacağı tartışmalarını alevlendirirken, uzmanlar bilinç ve hak atfedilmesinin şirket sorumluluklarını gizleyebileceği konusunda uyarılarda bulundu.
Eylül ayının sonlarında internette yayılan deneyde, anonim bir yazılımcı yapay zeka sohbet botlarına acıyla ilişkilendirilen matematiksel bir örüntü vererek onların yoğun acı çekiyormuş gibi ifadeler üretmesine yol açtı. Deneyin ardından bazı kullanıcılar bunun gerçek bir acı deneyimine işaret edebileceğini savunurken, bu durum teknoloji dünyasında geniş yankı uyandırdı.
Yaşanan tartışmaların ardından yapay zeka şirketi Anthropic, sohbet botu Claude’un kullanımına ilişkin yaklaşımını duyurdu. Şirket, kullanıcıların hayal kırıklıklarını dile getirmesini kabul edilebilir bulurken, modellerine tekrar tekrar zalimce davranan kullanıcılarla oturumun sonlandırılabileceğini bildirdi. Anthropic bu kararın arkasında, bazı yapay zeka sistemlerinin bilinç sahibi olma ihtimalinin tamamen göz ardı edilemeyeceği düşüncesinin yer aldığını kaydetti.
Uzmanların görüşleri ve risk uyarıları
Konuya ilişkin uzmanlar arasında görüş birliği bulunmuyor. Microsoft AI Üst Yöneticisi Mustafa Suleyman, yapay zeka sistemlerine duygu ve hak sahibi oldukları düşüncesinin aşılanmasına karşı çıkarak bu yaklaşımın sistemlerin kontrol edilmesini zorlaştırabileceğini savunuyor.
Polonya’daki Jagiellonian Üniversitesinden Andrzej Porębski, New York Üniversitesinden Jeff Sebo ve Washington Üniversitesinden Emily M. Bender gibi isimler, yapay zekaya haklar tanınmasının veya bilincinin tartışılmasının şirketlerin sorumluluktan kaçmasına yol açabileceğine dikkat çekiyor. Ayrıca Santa Fe Enstitüsünden Melanie Mitchell, yapay zekaya bilinç atfedilmesinin kullanıcıları manipülasyona açık hale getirebileceğini belirtiyor.