Anthropic Araştırmacısından Kendi Kendini Geliştiren Yapay Zeka Adımı

Anthropic bünyesindeki bir araştırmacı, yapay zeka modellerinin diğer yapay zeka sistemleri aracılığıyla kendi performanslarını ve hizalama süreçlerini nasıl geliştirebileceğine dair önemli bulguları paylaştı.

Yayınlanan Yeni Makalenin Detayları

Anthropic, yapay zeka sistemlerinin hizalama kıstaslarındaki performansını güvenilir şekilde artırabileceğini gösteren yeni bir akademik makale yayımladı.

Chen Yueh-Han liderliğinde yürütülen bu çalışma, otomatik sistemlerin geleneksel araştırma yaklaşımlarını nasıl büyük ölçüde taklit edebildiğini gözler önüne seriyor.

Otomatik Sistemlerin Çalışma Prensibi

Her bir otomatik sistem mevcut literatürü tarayarak bir yöntem öneriyor ve modeli bu yöntemle otuz dakika boyunca eğitiyor.

Etkili olan yöntemler korunurken etkisiz olanlar eleniyor ve böylece sistemin hızlı ile ölçeklenebilir bir şekilde çalışması sağlanıyor.

İnsan Araştırmacılarla Maliyet Kıyaslaması

Hazırlanan raporda otomatik sistemlerin performansının yanı sıra maliyet avantajlarına da dikkat çekiliyor.

Otomatik Hizalama Araştırmacısının API çıkarımı karşılığındaki saatlik maliyeti yaklaşık dört dolar olarak hesaplanıyor.

Mevcut Sınırlamalar ve Gelecek

Sistem yalnızca kıstaslar gerçek hizalama hedeflerini yansıttığı sürece işlevsellik gösteriyor.

Bu durum, gelecekte kıstasların ve literatürün korunup genişletilmesi adına önemli çalışmaların yapılması gerekliliğini ortaya koyuyor.