Hatalı Yapay Zeka ABD ile Çin Arasında Neredeyse Savaş Çıkarıyordu
ABD ordusunun kullandığı hata yapmaya meyilli bir sohbet botunun, nükleer bileşen taşıyan bir gemi hakkında yanlış istihbarat üretmesi az kalsın uluslararası bir çatışmaya yol açıyordu.
Süper zeka odaklı yapay zeka tartışmalarının gölgesinde kalan bir CNN haberine göre, ABD ordusunun güvenilmez sohbet botlarına olan bağımlılığı, Çin ile neredeyse nükleer boyutlu bir savaşın eşiğine gelmesine neden oluyordu.
Süper Zeka Tartışmalarının Gölgesinde Kalan Tehlike
Yapay zekanın insanlığı yok edeceği yönündeki kıyamet senaryoları kamuoyunu meşgul ederken, ABD ordusunun hatalı sohbet botları nedeniyle Çin ile neredeyse savaşa gireceği gerçeği büyük ölçüde göz ardı edildi.
Geçtiğimiz haftalarda Anthropic mühendisi Jacob Coxon'ın istifası ve yapay zeka şirketlerinin insan hayatını tehlikeye attığı yönündeki iddiaları kamuoyunun dikkatini bu alana çekti.
Hatalı İstihbarat ve Askeri Müdahale Planı
18 Eylül'de yayınlanan bir CNN raporuna göre, bir sohbet botu tarafından üretilen ve nükleer silah bileşenleri taşıyan bir Çin gemisine dair yanlış istihbarat raporu savaş tehlikesi yarattı.
Askeri personel uçak ve askerlerle gemiyi durdurmak için operasyon planı hazırladı, ancak uygulama aşamasından hemen önce yapılan incelemede raporun bir sohbet botu ürünü olduğu anlaşıldı.
Hata Üreten Sistemlerin Gerçek Riski
Bu olay, bilim kurgu filmlerindeki kontrolden çıkmış yapay zeka senaryolarından ziyade, hükümetlerin süper zeka olarak pazarlanan güvenilmez sistemlere olan aşırı güveninden kaynaklandı.
Büyük dil modellerinin eğitim verilerini yineleyen yapısı, bu tür kritik alanlarda insan hayatını tehlikeye atan ölümcül hataların önünü açıyor.
Düzenleme ve İnsan Sorumluluğu İhtiyacı
Askeri veya tıbbi gibi yüksek riskli senaryolarda kullanılan hata payı yüksek sistemler için sıkı düzenlemelere ve sorumluluğun insanlarda kalmasına acilen ihtiyaç duyulmaktadır.