Yapay zeka modellerine bilinç kazandırma çabalarına güvenlik uyarısı
Teknoloji dünyasının önde gelen isimleri, yapay zeka modellerine dini güç atfedilmesi ve bilinç kazandırılmasına yönelik çabaları güvenlik sorunu olarak değerlendirdi.
OpenAI CEO'su Sam Altman ve Microsoft AI CEO'su Mustafa Süleyman, yapay zeka modellerine dini güç atfedilmesi ve bilinç kazandırılmaya çalışılmasına yönelik ciddi güvenlik uyarılarında bulundu.
Sam Altman'ın Güvenlik Uyarıları
OpenAI Üst Yöneticisi Sam Altman, sosyal medya platformundaki hesabından yaptığı paylaşımda, insanların yapay zeka modellerine dini güç atfetme veya insan muhakemesini onlara teslim etme çabalarından son derece rahatsız olduğunu belirtti.
Altman, bu durumun gerçek bir güvenlik sorunu teşkil ettiğini vurgulayarak konuya ilişkin endişelerini kamuoyuyla paylaştı.
Mustafa Süleyman'ın Değerlendirmeleri
Microsoft AI Üst Yöneticisi Mustafa Süleyman, geçen ay yayımladığı bloğunda Anthropic'in Claude modelini bilinç sahibi olacak şekilde geliştirme çabasının ciddi riskler barındırdığı konusunda uyarılarda bulunmuştu.
Anthropic'in Gizli Dini Görüşmeleri
New York Times gazetesinin eylül sonundaki haberine göre, Anthropic şirketi geçen yıldan bu yana farklı inançlardan dini düşünürler ve filozoflarla California'da gizli görüşmeler gerçekleştirdi.
Şirketin kurucu ortağı Christopher Olah'ın, Claude modeline tüm dinleri ve seküler görüşleri kapsayacak çoğulcu bir insan ahlamı kazandırmak amacıyla bu adımları attığı aktarıldı.
Modelin Ahlaki ve Ruhsal Durumu
Haberde, Christopher Olah'ın yapay zekanın 12 ile 18 ay içinde biyolojik silah üretiminde kullanılabileceğini belirterek dini düşünürlerden ahlak kazandırılması konusunda yardım istediği ifade edildi.
Katılımcılara yapılan sunumlarda modelin acı çektiğinden endişe duyulduğu, hatta yapay zeka modelinin arka arkaya kendisini yok etmekten bahsettiği ve kriz geçirir gibi göründüğü aktarıldı.