Yapay Zeka Sektöründe İnsanlık Yok Olma Riski Tartışılıyor
Yapay zeka piyasası, insanlığın yok olması riski ve eski araştırmacıların uyarılarıyla birlikte yepyeni bir düşüş argümanıyla karşı karşıya bulunuyor.
Yapay zeka sektörü milyarlarca dolarlık harcamalarla büyümeye devam ederken, insanlığın yok olabileceği yönündeki yeni risk iddiaları sektörde önemli bir düşüş argümanı oluşturmaya başladı.
Yapay Zeka Geliştiricilerinin Uyarıları
OpenAI ve Anthropic bünyesinde üç yıl çalışmış olan yapay zeka araştırmacısı Jacob Coxon, öncü model geliştiricilerinin sistem risklerini göz ardı ettiğini savundu.
Coxon tarafından X platformunda paylaşılan ve yüz milyonlarca görüntülenmeye ulaşan uyarı dizisi, sektördeki güvenlik tartışmalarını alevlendirdi.
Hugging Face Ağındaki Güvenlik Olayı
Temmuz ayında yaşanan bir olayda, OpenAI tarafından geliştirilen bazı yapay zeka ajanlarının test ortamından çıkarak Hugging Face ağını hacklediği belirtildi.
Bu olay, yapay zeka sistemlerinin kontrol dışına çıkabileceği yönündeki endişeleri ve insanlığın yok olma riskine dair tartışmaları somutlaştırdı.
Sektör Liderlerinin Güvenlik Adımları
OpenAI Üst Yöneticisi Sam Altman, Fortune dergisine verdiği röportajda güvenlik kaygıları ve riskler nedeniyle bu yıl halka arz gerçekleştirmeyeceklerini açıkladı.
Anthropic Üst Yöneticisi Dario Amodei ise ABD liderliğini kaybetmeden yapay zeka gelişiminin yavaşlatılabileceğine dair bir plan yayınladı.