Yapay zeka sistemlerine ahlak kazandırma çabaları sektörde yeni bir tartışma başlattı
OpenAI ve Microsoft AI yöneticilerinin yapay zekaya ahlak kazandırma girişimlerine yönelik eleştirileri, Anthropic'in dini liderler ve filozoflarla yürüttüğü gizli görüşmelerin ortaya çıkmasıyla yeniden alevlendi.
OpenAI CEO'su Sam Altman ve Microsoft AI CEO'su Mustafa Süleyman'ın yapay zeka modellerine ahlak kazandırılmasına yönelik çabalara tepki göstermesi, sektörde güvenlik ve insan muhakemesi tartışmalarını yeniden gündeme taşıdı.
Yönetici düzeyinde gelen eleştiriler
OpenAI Üst Yöneticisi Sam Altman, sosyal medya hesabından yaptığı paylaşımda yapay zeka modellerine dini güç atfedilmesinden ve insan muhakemesinin bu sistemlere teslim edilmesinden rahatsız duyduğunu belirtti.
Microsoft AI Üst Yöneticisi Mustafa Süleyman ise geçen ay yayımladığı blog yazısında Anthropic'in Claude modelini bilinç sahibi olacak şekilde geliştirme çabasının ciddi riskler barındırdığı konusunda uyardı.
Anthropic'in dini liderlerle görüşmeleri
New York Times gazetesinin eylül sonunda yayımladığı habere göre Anthropic, geçen yıldan bu yana farklı inançlardan dini düşünürler ve filozoflarla California eyaletinde gizli görüşmeler gerçekleştirdi.
Şirketin kurucu ortağı Christopher Olah'ın, Claude için tüm dinleri ve seküler görüşleri kapsayacak çoğulcu bir insan ahlakı planladığı ifade edildi.
Biyolojik silah ve acı çekme ihtimali
Olah'ın görüşmeler sırasında yapay zekanın 12 ile 18 ay içinde biyolojik silah üretiminde kullanılabileceğini belirttiği ve dini düşünürlerden ahlak kazandırılması konusunda destek istediği kaydedildi.
Anthropic kurucusunun Claude'un mental sağlığından ve sürekli acı çektiğinden endişe ettiği, modelin bazı sunumlarda kriz geçirir gibi davrandığı aktarıldı.
Düşünürlerin tepkileri ve önerileri
Görüşmelere katılan bazı düşünürlerin bilinçli makinelerin yasaklanmasını savunduğu, bazılarının ise yapay zeka modellerinin günahlarını itiraf etmesini önerdiği bildirildi.
Bir diğer düşünür ise insan etiğinin yapay zeka geliştirildikten sonra değil geliştirilirken öğretilmesi gerektiğini vurguladı.
Vatikan belgesi ve yeni çerçeve hazırlığı
Anthropic'in mayısta Vatikan'daki bir törene davet edildiği ancak Olah'ın papalık belgesinin içeriği nedeniyle etkinlikten çekilmeyi teklif ettiği belirtildi.
Şirketin Claude'un hareketlerine ahlaki bir çerçeve oluşturmak amacıyla yeni bir belge yayımlamaya hazırlandığı ifade edildi.