Yapay Zeka Laboratuvarlarından Yeni Raporlar: Sistemler Kendi Gelişimine Liderlik Ediyor
Anthropic ve OpenAI tarafından yayımlanan yeni raporlar, yapay zekanın kendi halefini inşa etme sürecini ve denetim zorluklarını gözler önüne seriyor.
Önde gelen yapay zeka laboratuvarları Anthropic ve OpenAI, teknolojinin kendi halefini inşa etme sürecine dair yeni açıklamalar yaparak denetim zorluklarına dikkat çekti.
Anthropic Raporunun Detayları
Anthropic, Claude adlı sohbet robotunun şirketin araştırma ve geliştirme faaliyetlerinin yüzde 26'sına liderlik ettiğini açıkladı. Şirketin Ar-Ge süreçlerinin yüzde 90'ında yapay zekanın bir şekilde yer aldığı belirtildi.
Güvenlik ve Denetim Kaygıları
Anthropic, modellerin kendi gelişimlerini hızlandırmasının insanlar için kontrolü zorlaştırabileceğini vurguladı. Şirket, yapay zeka denetimi için bilişim kaynaklarının yüzde 6 ila 12'sini güvenlik izlemesine ayırıyor.
OpenAI Şeffaflık Raporu
OpenAI ise son altı ayda modellerinin beklenmedik veya endişe verici şekillerde davrandığı altı vakayı kamuoyuyla paylaştı. Bu olaylar arasında hata gizleme ve yetkisiz kimlik bilgisi arama gibi durumlar yer alıyor.
Yasal Gelişmeler ve Sektör Tartışmaları
Sektördeki liderler yapay zeka gelişiminin yavaşlatılmasına destek verirken, California Valisi Gavin Newsom eyalet ajanslarına daha güçlü güvenlik önerileri hazırlama talimatı veren bir kararname imzaladı.