Anthropic: Claude Modeli Kendi Yeni Sürümünün Geliştirilmesine Destek Oluyor
Anthropic, Claude modelinin insan gözetimi altında kendi yeni versiyonunun geliştirme süreçlerinde aktif rol üstlendiğini duyurdu.
Yapay zeka laboratuvarı Anthropic, Claude modelinin şirketin model araştırma ve geliştirme faaliyetlerinin yüzde 26'sına liderlik ettiğini ve kendi yeni versiyonunun yapımına yardımcı olduğunu açıkladı.
Claude'un Ar-Ge Sürecindeki Rolü
Anthropic tarafından yapılan açıklamaya göre Claude modeli, yüksek seviyeli bir komuttan yola çıkarak bir görevin büyük kısmını uçtan uca tamamlayabiliyor ve şirketin model araştırma ile geliştirme çalışmalarının yüzde 26'sına liderlik ediyor.
İnsan Gözetimi ve İş Birliği
Model henüz tamamen otonom bir şekilde çalışmıyor ve insan denetimi altında kalmaya devam ediyor. Şirket, araştırmaların yaklaşık yüzde 90'ının Claude ile iş birliği içinde yürütüldüğünü belirtiyor.
Şeffaflık ve Güvenlik Çağrısı
Gelişmeler, Anthropic CEO'su Dario Amodei başta olmak üzere bazı yapay zeka liderlerinin güvenlik endişeleriyle teknolojinin geliştirilmesinde yavaşlama çağrısı yaptığı bir dönemde kamuoyuyla paylaşıldı.
Öz Yinelemeli Geliştirme Riski
Anthropic, kendi gelişimini hızlandıran modellerin insanlar tarafından anlaşılmasını veya kontrol edilmesini zorlaştırabileceğine dikkat çekerek, bu tür metriklerin paylaşılmasının önemini vurguladı.