Harvard'daki Berkman Klein Center Paneli Yapay Zekanın Sınırlarını Tartıştı
Anthropic ve Microsoft araştırmacıkları Harvard'daki panelde yapay genel zeka, güvenlik ve kötüye kullanım risklerini ele aldı.
Anthropic ve Microsoft şirketlerinden araştırmacılar, Harvard Üniversitesi Berkman Klein Center tarafından düzenlenen panelde yapay zekanın sınırları, güvenliği ve olası riskleri üzerine değerlendirmelerde bulundu.
Harvard'da Yapay Zeka Paneli Düzenlendi
Anthropic ve Microsoft araştırmacıkları, Harvard Üniversitesi bünyesindeki Berkman Klein Center tarafından düzenlenen panelde yapay zekanın sınırları konusunda farklı görüşleri masaya yatırdı.
Yapay zekanın insan ilişkilerini, inançları ve yaratıcılığı nasıl yeniden şekillendirdiğini inceleyen etkinlik serisinin ilk oturumu, yüzden fazla katılımcının ilgisini çekti.
Microsoft Temsilcisinden Yapay Genel Zeka Görüşü
Microsoft'ta sorumlu yapay zeka alanında ürün lideri olan Ken Archer, yapay zekanın asla genel zekaya ulaşamayacağına inandığını belirtti.
Archer, makine süper zekası tahminlerinin tarihteki bilimsel ilerlemelere dair farkındalıktan yoksun olduğunu savunarak, yapay genel zekaya olan inancının sıfır olduğunu vurguladı.
Anthropic Temsilcisi Deneyim Eksikliğine Dikkat Çekti
Anthropic bünyesinde insan geri bildirimi programını yöneten Jackson M. Kernion, farkın yetenekten ziyade deneyimde yattığını ifade etti.
Kernion, dil modellerinin insanların her etkileşime getirdiği deneyim sürekliliğinden yoksun olduğunu dile getirdi.
Kötüye Kullanım ve Güvenlik Endişeleri
Yavaşlama çağrılarının ne amaçla kullanılması gerektiği sorulan Kernion, en büyük endişesinin kontrolden çıkan yetenekler değil kötüye kullanım olduğunu belirtti.
Kernion, yapay zekanın sistemleri korumak veya onlara sızmak için kullanılabilen ikili kullanım teknolojisi olduğunu savunarak koruma önlemlerine zaman ayrılması gerektiğini söyledi.
Model Eğitimi ve Değerler Çerçevesi
Kernion, Anthropic şirketinin Claude modelini eğitmek için kullandığı anayasayı yayımladığını belirterek bunun sistemin sahip olması gereken değerlere dair bir yaklaşım olduğunu söyledi.
Bu çerçevenin dünyayı temsil etmediğini, San Francisco merkezli belirli bir zihniyeti yansıttığını kaydetti.