Yapay zeka öncüsü Martha Palmer'dan küresel düzenleme ve denetim çağrısı
Uzman isim, otonom sistemlerin potansiyel varoluşsal risklerine dikkat çekerek dünya liderlerinin derhal önlem alması gerektiğini vurguluyor.
Yapay zeka alanının kıdemli araştırmacılarından Profesör Martha Palmer, denetimsiz yapay zekanın barındırdığı varoluşsal risklere karşı küresel çapta acil önlemler alınmasını talep ediyor.
Yapay zeka alanında uzun soluklu bir kariyer
Martha Palmer, yapay zeka alanındaki ilk dersini 1973 yılında Teksas Üniversitesi'nde lisans öğrencisiyken aldı ve kariyeri boyunca bu alanda araştırmacı, öğretmen ile geliştirici olarak çalıştı. Edinburgh Üniversitesi'nden yapay zeka alanında doktora alan ilk kadın unvanına sahip olan Palmer, Colorado Boulder Üniversitesi'nden emekli bir profesördür.
Birleşmiş Milletler panelinin uyarıları
Palmer, Birleşmiş Milletler Bağımsız Uluslararası Yapay zeka Bilimsel Paneli'nde görev yapan iki ABD'li bilim insanından biridir. Panel, yapay zekanın riskleri ve fırsatlarına ilişkin ön raporunu 1 Temmuz tarihinde kamuoyuyla paylaştı.
Yayımlanan raporda, dünya liderlerinin acil olarak koruyucu sınırlar uygulaması gerektiği vurgulanırken otonom ajanların kontrolden çıkma ihtimaline dikkat çekildi.
Otonom sistemler ve kötü niyetli kullanım tehlikesi
Panelin raporunda öne çıkan riskler arasında özyinelemeli kendi kendine gelişim süreçleri ve kötü niyetli kişilerin gelişmiş yapay zekayı siber saldırılar veya altyapı hackleme amacıyla kullanması yer alıyor.
Kâr odaklı şirketlerin halka arz yarışında kendilerini denetlemesinin beklememesi gerektiği belirtilerek uluslararası düzeyde yürütülecek görüşmelerin hayati önem taşıdığı ifade ediliyor.