Pathway yeni beyin esinli yapay zeka mimarisini duyurdu
Pathway, transformer dışına çıkan ve gizli uzayda seyrekleştirilmiş yerel etkileşimlerle akıl yürüten BDH mimarisini Amazon SageMaker HyperPod üzerinde geliştirdi.
Yapay zeka alanında çalışmalar yürüten Pathway, geleneksel transformer paradigmalarının dışına çıkarak beyin esinli yeni bir mimari geliştirdi. BDH adı verilen bu sistem, Amazon SageMaker HyperPod üzerinde eğitilerek dikkat çekici sonuçlara imza attı.
Beyin Esinli Yeni Mimari
Yapay zeka sistemleri daha karmaşık görevleri üstlendikçe endüstrideki ilerleme genellikle model ölçeğini, veri miktarını ve bağlam uzunluğunu artırmaya odaklanıyor. Ancak Pathway bu yaklaşımdan farklı bir yol izleyerek beyin esinli bir yapı tasarladı.
Gizli Uzayda Akıl Yürütme
Pathway tarafından geliştirilen BDH ve BDH-CQ adlı genişletilmiş sürümü, ara metin izleri oluşturmadan doğrudan gizli uzayda akıl yürütebiliyor. Sistem, örneklerden öğrenerek ve çözümleri yinelemeli hesaplamalarla arıtarak çalışıyor.
Amazon Altyapısı ile Ölçekleme
PyTorch gibi popüler çerçevelerle entegre çalışabilen bu yeni model, eğitim süreçlerini ölçeklemek amacıyla Amazon SageMaker HyperPod altyapısından yararlandı. İş yükleri NVIDIA H200 GPU'lu örnekler üzerinde dağıtıldı.
Performans ve Maliyet Başarısı
Pathway Kurucu Ortağı ve CEO'su Zuzanna Stamirowska, 150 milyon parametreli bir modelin gizli uzayda yinelemeli akıl yürüterek ARC-AGI-1 kıyaslamasında yeni bir standart belirlediğini ifade etti.