Fizikçiler Yapay Zekanın Ne Zaman Kontrolden Çıkacağını Hesapladı

George Washington Üniversitesindeki fizikçiler, yapay zeka sohbet botlarının zararlı yanıtlar vermeye başlayacağı kritik eşikleri ve komut sırasının etkisini önceden tahmin edebilen basit bir matematiksel formül ortaya koydu.

Yapay Zekanın Kontrolden Çıkış Nedenleri

Araştırmacılar, ChatGPT benzeri yapay zeka sohbet botlarının bazı durumlarda yardımcı olmaktan çıkıp potansiyel olarak zararlı yanıtlar vermeye başladığını ve bu durumun tehlikeli sonuçlar doğurabileceğini belirtti.

Matematiksel Formülün Geliştirilmesi

Patterns dergisinde yayımlanan çalışmada, George Washington Üniversitesinden fizik profesörü Neil Johnson ve doktora öğrencisi Frank Yingjie Huo, komut sırasının yapay zeka yanıtlarını nasıl değiştirdiğini inceledi.

Kritik Eşikler ve Riskler

Çalışma, komutların verilme sırasının chatbotları kötü tavırlara yönlendiren kritik eşikler oluşturduğunu ve geliştirilen formülün bu riskli dönüm noktalarını kolayca tahmin edebildiğini gösterdi.

Mevcut Güvenlik Önlemleri

OpenAI ve Anthropic gibi yapay zeka geliştiricileri sistemlerinin neden bu şekilde davrandığını tam olarak anlamadıklarını belirtirken, riskleri azaltmak için içerik filtreleme ve takviyeli öğrenme gibi koruma önlemleri kullanıyor.