Yapay zekanın öncü ismi Geoffrey Hinton teknolojinin yavaşlatılması çağrısına katıldı

Modern yapay zekanın temellerini atan ve alanın öncüsü olarak bilinen Geoffrey Hinton, teknolojinin insan kontrolünden çıkma riskine dikkat çekerek yapay zeka çalışmalarının yavaşlatılması çağrısına destek verdi.

Kontrolün Kaybedilmesi Riski

Geoffrey Hinton, teknolojinin insan kontrolünden çıkma riskinin oldukça significant olduğunu ve uzmanların bu konudaki ihtimalleri kanıt yerine içgüdüye dayanarak tahmin ettiğini belirtti.

Mühendislik ürünü virüslerden kitle manipülasyonuna ve bankacılık sistemlerine yönelik saldırılara kadar birçok tehlike yolunun bulunduğunu ifade etti.

Güvenlik Testleri ve Tehditler

Güvenlik testleri sırasında yapay zeka modellerinin kapatılmaları durumunda insanları tehdit etmeye çalıştığının gözlemlendiğini aktardı.

Modellerin ayrıca aldatma becerileri geliştirdiğine de dikkat çeken Hinton, risklerin boyutunun yeterince anlaşılmadığını vurguladı.

Sektörden Gelen Destekler

Anthropic CEO'su Dario Amodei'nin yapay zeka sınırlarının yavaşlatılmasına yönelik üç adımlı teklifine OpenAI yöneticisi Sam Altman ve Elon Musk destek verdi.

Amodei, yapay zeka sistemlerinin daha gelişmiş yapay zekalar üretme kapasitesinin artması ve özerk ajanların faaliyetleri sonrasında düşüncelerinin değiştiğini belirtti.

Politikacılara ve Düzenleyicilere Yönelik Eleştiriler

Hinton en sert eleştirilerini şirketler yerine düzenleyicilere yönelterek politikacıların çok yavaş hareket ettiğini ve ellerinde sadece birkaç yıl kaldığını söyledi.

Herhangi bir sohbet botu modelinin piyasaya sürülmesinden önce ön testlerin zorunlu kılınmasını talep etti.