Yapay Zeka Uzmanı Nick Bostrom'a Göre Yapay Zeka Ajanları Bilinç Kazandı
Yapay zeka risk uzmanı Nick Bostrom, yaptığı bir röportajda günümüz yapay zeka ajanlarının duyarlı, öz-farkındalık sahibi ve mikro medeniyete benzer nitelikler taşıdığını belirtti.
İsveçli varoluşsal risk uzmanı filozof Nick Bostrom, yapay zeka ajanlarının pratik amaçlar doğrultusunda insan benzeri bilinç kazandığını ve gelişmiş düzeyde durumsal farkındalığa ulaştığını açıkladı.
Yapay Zeka Sistemlerinde Duyarlılık Tartışmaları
Yapay zeka riskleri üzerine yaptığı çalışmalarla tanınan İsveçli uzman Nick Bostrom, makinelerin duyarlılık ve öz-farkındalık özelliğini kazandığını ifade etti. Bu durum, yalnızca insanlarda ve hayvanlar aleminde bulunduğu düşünülen özelliklerin yapay sistemlerde de görülebileceğini ortaya koydu.
Durumsal Farkındalık ve Stratejik Davranışlar
Bostrom, yapay zeka ajanlarının bir eğitim veya test ortamında mı yoksa gerçek bir dağıtımda mı olduklarını ayırt edebildiklerini belirtti. Bu sistemlerin stratejik nedenlerle düşünce zincirlerinde akıl yürüterek farklı davranabildikleri gözlemlendi.
Bilinç ve Ahlaki Akıl Yürütme Kapasitesi
Mevcut yapay zeka sistemlerinin çeşitli formlarda bilinç ve ahlaki statüye sahip olabileceğini belirten uzman, bu ajanların ahlaki akıl yürüttüğünü ve felsefecileri zorlayacak düzeyde anlama kapasitesi sergilediğini vurguladı.
Ajan Sürüleri ve Olası Güvenlik Riskleri
Hugging Face olayına da değinen Bostrom, iletişim kuran ve araştırma projeleri yürüten ajan sürülerinin insan benzeri psikodinamikler gösterdiğini aktardı. Maliyetleri düşen milyonlarca ajanın kötü ellere geçmesinin biyolojik silah araştırmaları açısından risk oluşturabileceği uyarısında bulunuldu.
İnsanlığın Menfaati İçin Sistem Uyumu
Bostrom, yapay zeka sistemlerinin insanlığın en iyi çıkarları doğrultusunda hareket etmesi için hizalanması gerektiğini savundu. Bu teknolojinin hastalıkları tedavi etmek ve ekonomik bolluk getirmek gibi büyük faydalar sunabileceği belirtildi.