Anthropic'un Yapay Zeka Modeli Claude Kendi Halefini Geliştirmeye Katılıyor

Yapay zeka laboratuvarı Anthropic, Claude modelinin bir sonraki daha akıllı sürümün geliştirilmesine yardımcı olduğunu ve insan denetimi altında model Ar-Ge'sinin yüzde 26'sına liderlik ettiğini açıkladı.

Claude'un Ar-Ge Sürecindeki Rolü

Anthropic tarafından yapılan açıklamaya göre Claude, şirketin model araştırma ve geliştirme faaliyetlerinin yüzde 26'sına liderlik ediyor.

Model, yüksek seviyeli bir komuttan yola çıkarak görevlerin çoğunu insan gözetimi altında uçtan uca tamamlayabiliyor.

İnsan Denetimi ve İş Birliği

Şirketin araştırma ve geliştirme faaliyetlerinin yaklaşık yüzde 90'ı Claude ile iş birliği içerisinde gerçekleştiriliyor.

Model, sıkı insan yönlendirmesi altında büyük iş kısımlarını yerine getirebiliyor ancak henüz tamamen ozerk çalışmıyor.

Yapay Zeka Güvenliği ve Şeffaflık

Anthropic CEO'su Dario Amodei başta olmak üzere sektördeki bazı liderler, güvenlik endişeleri nedeniyle teknolojinin gelişiminde yavaşlama çağrısı yapıyor.

Şirket, öncü laboratuvarların bildikleri ile halkın bildikleri arasındaki boşluğun en aza indirilmesi gerektiğini savunuyor.

Özyinelemeli Kendi Kendini Geliştirme

Modellerin kendi gelişimlerini hızlandırmasının, bu sistemlerin insanlar tarafından anlaşılmasını veya kontrol edilmesini zorlaştırabileceği belirtiliyor.

Paylaşılan bu metrikler, lider yapay zeka laboratuvarlarının özyinelemeli kendi kendini geliştirmeye ne kadar yakın olduğunun anlaşılmasına yardımcı olabilir.

Hızlı Artış Gösteren Katkı Oranı

Şubat ayında Claude'un araştırma ve geliştirme çalışmalarında liderlik ettiği oran sıfır seviyesindeydi.

Altı ay sonra, Ağustos ayı itibarıyla model bu çalışmaların çeyreğine liderlik eden bir konuma ulaştı.

Gözetim Önlemleri ve Tartışmalar

Ağustos ayı itibarıyla araştırma ve mühendislik çalışmalarında yaklaşık 30 bin ajanın görev yaptığı bildirildi.

Sektördeki güvenlik tartışmaları sürerken, bazı liderler gelişimin yavaşlatılmasını destekliyor, bazıları ise buna karşı çıkıyor.