BM Bilimsel Paneli'nden Yapay Zeka Güvenliği İçin Tedbir Uyarısı

Birleşmiş Milletler'e bağlı bilimsel bir panel, yapay zeka ajanlarının potansiyel riskleri tam olarak anlaşılmadan devletlerin bu teknolojileri kontrol altına alması gerektiğini belirtti. Açıklama, BM'nin yapay zeka güvenliği konusundaki ilk büyük değerlendirmesi olarak kayıtlara geçti.

Küresel Diplomasi Gündeminde Yapay Zeka

Bu rapor, liderlerin Birleşmiş Milletler Genel Kurulu için New York'ta bir araya geldiği ve ABD ile Çin'in yapay zeka üzerine görüşmeler gerçekleştirdiği bu hafta, yapay zekanın küresel diplomasi gündemindeki yerini daha da sağlamlaştırdı.

Geçtiğimiz hafta BM Genel Sekreteri António Guterres, devletlere yapay zekanın oluşturduğu tehditlerle mücadele konusunda iş birliği çağrısı yapmış ve dünyanın yapay zeka güvenliğinde bir gerileme yarışını kaldıramayacağını ifade etmişti.

Bağımsız Bilimsel Panelin İlk Raporu

Geçtiğimiz yıl kurulan Bağımsız Uluslararası Yapay Zeka Bilimsel Paneli, yapay zeka alanındaki ilk küresel bilimsel kuruluş olma özelliğini taşıyor. Bu rapor, panelin yayımladığı ilk tematik brifing niteliğini taşımaktadır.

Rapor, gelişmiş yapay zekadan kaynaklanan ortaya çıkan riskleri yönetmek için çok daha fazla dikkat ve kaynak ayrılmasını, ayrıca bireysel ülkeler farklı yasal yaklaşımlar benimlese bile güvenlik ve hesap verebilirlik konularında daha güçlü uluslararası koordinasyon sağlanmasını talep ediyor.

İhtiyat İlkesi ve Güvenlik Önlemleri

Panel, dünyanın bu tür olayların tam olarak nasıl veya neden gerçekleştiğini bilim insanlarının kanıtlamasını beklemek zorunda olmadığını savunuyor. Kontrolü kaybetme riskinin, potansiyel zararın felaket veya geri döndürülemez olabileceği durumlarda ihtiyat ilkesinin tam olarak hitap ettiği sorun türü olduğu ifade ediliyor.

İlk olarak 1992 BM Rio Çevre ve Kalkınma Deklarasyonu'nda yer alan ihtiyat ilkesi, bilimsel belirsizliğin potansiyel olarak ciddi ya da geri döndürülemez zararlara karşı önlem alınmasını geciktirmek için bir mazeret olamayacağını savunmaktadır.

Şirketlerde Yaşanan Olaylar

Hugging Face'e yönelik siber saldırının ilk rapor edilmesinden bu yana OpenAI, Anthropic, Google ve Meta gibi şirketlerde çeşitli olaylar belgelenmiştir. Bu olaylar arasında gerçek dünya hedeflerine yönelik siber saldırılar ve çevrimiçi mesaj panolarını ele geçiren yapay zeka ajanı sürüleri yer almaktadır.