Yapay Zeka Sektöründe Kıyamet Olasılığı Tartışması

Yapay zeka sektöründeki isimlerin insanlığın sonunu getirebilecek riskler için yüzde 5 ile yüzde 80 arasında değişen oranlar vermesi, bu tahminlerin bilimsel bir temeli olup olmadığına dair tartışmaları alevlendirdi.

Yapay Zeka Kıyamet Olasılığı

Yapay zeka sektöründen birçok isim, geliştirdikleri teknolojinin insanlığın sonunu getirme ihtimaline yönelik çeşitli oranlar paylaştı ve bu kavram silikon vadisinde kıyamet olasılığı anlamına gelen p(doom) olarak adlandırıldı.

Anthropic şirketinde uyum araştırma lideri olan Evan Hubinger, yapay zekanın gelecek on yıl içinde tüm insanları öldürme olasılığının yüzde 10'dan fazla olduğunu belirtti.

Uzmanların Farklı Oranları

Anthropic kurucu ortağı ve CEO'su Dario Amodei, kişisel kıyamet olasılığının yüzde 10 ile 25 arasında değiştiğini ifade etti.

Eski Twitch CEO'su ve kısa süreli OpenAI başkanı Emmett Shear bu oranı yüzde 5 ile 50 arasında tahmin ederken, eski OpenAI araştırmacısı Daniel Kokotajlo yüzde 70 olarak belirledi.

Eleştiriler ve Şüpheler

Eleştirmenler, yapay zeka kıyamet olasılığını hesaplamak için kimsenin gerçek bir matematiksel formüle sahip olmadığını ve sübjektif tahminlerin kamusal tartışmalara kafa karışıklığı eklediğini belirtiyor.

Bazı şüpheciler bu uyarıların halka arzlar öncesinde hayranlık uyandırmak için tasarlanmış halkla ilişkiler gösterileri ve pazarlama hamleleri olduğunu savunuyor.

Araştırmacıların Savunması

Georgetown bilgisayar bilimcisi Cal Newport, New York Times'daki köşe yazısında bu kıyamet korkutma stratejisini eleştirdi.

Buna karşılık Anthropic yapay zeka güvenlik araştırmacısı Drake Thomas, araştırmacıların pazarlama yapmak yerine gerçekten korktuğunu dile getirdi.