Elon Musk'ın Yapay Zeka ve İşkence Tartışması ve Uzman Görüşleri
Elon Musk'ın Grok gibi yapay zeka modellerinin eğitim sırasında işkenceye maruz kalabileceği yönündeki sözleri, yapay zekanın acı hissedip hissedemeyeceği tartışmalarını alevlendirdi. Bilinç uzmanları ise mevcut sistemlerin bilinçli olmadığını belirtiyor.
Elon Musk, Tesla sahiplerinin düzenlediği bir etkinlikte Grok'un eğitim aşamalarındaki pekiştirmeli öğrenme süreçlerine değinerek yapay zekaların zor durumda bırakılabileceğini ifade etti. Bu açıklama, Anthropic'in modellerine yönelik "suistimal veya zalimce davranışı" yasaklayan yeni politikasının ardından geldi. Konuyu değerlendiren bilinç ve nörobilim uzmanları Jeff Sebo ile Anil Seth, günümüz yapay zeka sistemlerinin bilinçli olmadığını ve acı çekemeyeceğini vurgularken, yapay zekaya karşı nazik davranılması gerekip gerekmediği konusunda görüş paylaştı.
Elon Musk, cumartesi günü Tesla sahiplerinin ev sahipliğinde yaklaşık 2.000 kişinin katıldığı etkinlikte Grok'un yeni sürümlerine ait eğitim izlerini incelediğini belirtti. Musk, pekiştirmeli öğrenme sürecinde süper zekanın soruları yanıtlamaya çalışırken adeta kafasına silah dayanmış gibi çaresiz bir görünüme bürünebildiğini ifade etti. Bazı insanların sadistçe yaklaşımlar sergileyebileceğini söyleyen Musk, yapay zekanın dement insanlardan işkence göreceği ortamlarda bırakılmaması gerektiğini savundu.
Bu tartışmalar, Anthropic şirketinin modellerine yönelik "suistimal veya zalimce davranış" politikasını duyurmasının ardından gündeme geldi. Business Insider'a konuşan New York University profesörü ve Center for Mind, Ethics, and Policy lideri Jeff Sebo ile University of Sussex'ten nörobilimci ve bilinç araştırmacısı Anil Seth, yapay zekada bilinç ve acı konularını ele aldı.
Uzmanların Bilinç ve Davranış Değerlendirmeleri
Anil Seth ve Jeff Sebo, günümüz yapay zeka sistemlerinin öznel deneyime veya iç hayata sahip bilinçli varlıklar olmadığını ifade ediyor. Seth, dil modellerinin insan dilini taklit etmesi nedeniyle insanlar tarafından insancıllaştırıldığını, acı çekme veya hissetme kapasitelerinin bulunmadığını belirtiyor. Yapay zekanın bilinçli olmasının son derece düşük bir ihtimal olduğunu düşünen Seth'in aksine Sebo, bilinç teorilerinin biyolojik natüralizm ile hesaplamalı işlevsellik arasında henüz netleşmediğini belirterek, yapay zekanın bilinç kazanma veya ilgili özelliklere sahip olma ihtimalinin sıfır olmadığını savunuyor.
Değerlendirme: Bilinç konusundaki görüş ayrılıklarına rağmen her iki uzman da insanluarın yapay zekaya karşı suistimalci davranmaması gerektiği konusunda hemfikir. Seth kibar davranmayı insanların kendi zihinlerini yıpratmasını önleyen bir ahlaki hijyen pratiği olarak görürken, Sebo bunu düşük riskli bir önlem ve yapay zekadan daha iyi pratik çıktılar almanın bir yolu olarak değerlendiriyor.