Yapay Zeka Sistemlerinde Düzenlemeler Güvenlik İçin Yeterli Mi
Gresham College'dan Profesör Martyn Thomas, öncü yapay zeka modellerinin güvenlik testlerini geçemediğini belirterek mevcut geliştiricilerin havacılık veya nükleer enerji gibi sektörlerdeki zorunlu güvenlik argümanlarını sağlamadığını ifade ediyor.
Gresham College bilişim teknolojileri profesörü Martyn Thomas, öncü yapay zeka sistemlerinin potansiyel tehlikelerine karşı mevcut düzenlemelerin ve bağımsız denetimlerin yetersiz kalabileceğini vurgulayan değerlendirmelerde bulundu.
Yapay Zeka Modelinin Geri Çekilmesi
Bir yapay zeka modeli, iç testler sırasındaki güvenlik endişeleri ve testleri geçememesi nedeniyle yakın zamanda geri çekilme durumuyla karşı karşıya kaldı.
Bu durum, yapay zeka alanında bağımsız gözetim ve düzenleme çağrılarının yeniden gündeme gelmesine yol açtı.
Kritik Sektörlerde Güvenlik Standartları
Havacılık ve nükleer enerji gibi kritik alanlarda faaliyet gösteren yazılım sistemleri için uzun süredir uluslararası güvenlik standartları uygulanmaktadır.
Bu standartlar, olası tehlikelerin belirlendiğini ve kazaların önlendiğini gösteren titiz analizlerin sunulmasını zorunlu kılar.
Düşük Olasılıklı Kaza Kanıtları
Mevcut mühendislik gelenekleri, çoklu ölümlere yol açabilecek kazaların son derece düşük olasılıkla gerçekleşeceğine dair somut kanıtlar talep etmektedir.
Öncü yapay zeka geliştiricileri ise insanlığın tamamını tehdit edebilecek sistemler için detaylı risk analizi veya bağımsız değerlendirilebilecek güvenlik dosyaları sunmamaktadır.