Amazon'dan HyperPod için InstantStart ve Yapay Zeka Ajanı

Amazon Web Services, Amazon SageMaker HyperPod üzerinde temel model iş yüklerini basitleştirmek ve otomatikleştirmek amacıyla tasarlanan açık kaynaklı kontrol düzlemi HyperPod InstantStart'ı tanıttı.

Altyapı Yönetiminin Zorlukları

Temel model iş yüklerini yönetmek genellikle ağ ve kontrol düzlemi oluşturma, hızlandırıcı kapasitesi ekleme ve küme bağımlılıklarını kurma gibi bir dizi bağımlı adımdan oluşur.

Her adımın kendine ait API'leri, hata modları ve bekleme süreleri bulunduğundan, operasyonel zorlukların büyük kısmı bu geçiş süreçlerinde ortaya çıkar.

Amazon SageMaker HyperPod Çözümleri

Amazon SageMaker HyperPod, sağlık izleme, düğüm otomatik ölçeklendirme, eğitim kurtarma ve çıkarım için yönetilen, esnek bilgi işlem ve entegre yetenekler sunar.

Amazon Elastic Kubernetes Service kullanıcı tarafından yönetilen düzenleme yüzeyi olarak kalır ve ekiplere doğrudan Kubernetes erişimi sağlar.

HyperPod InstantStart Kontrol Düzlemi

HyperPod InstantStart, AWS kaynaklarını, eklentileri ve iş yüklerini tutarlı bir bütün haline getirme sorununu çözmek için geliştirilmiş açık kaynaklı bir kontrol düzlemidir.

Bu sistem, kullanıcılara aynı arka uç API'lerini kullanan hem web arayüzü hem de bir yapay zeka ajanı aracılığıyla yönetim imkanı tanır.

Yapay Zeka Ajanı ile Çok Aşamalı İş Akışı

Terminal üzerinden tek bir cümleyle çalışan yapay zeka ajanı, çok aşamalı iş akışını planlar, başlatır ve asenkron AWS işlemlerinin tamamlanmasını denetler.

Ajan yalnızca Kullanılabilirlik Alanı, örnek türü ve kapasite türü gibi kullanıcı kararlarında duraklayarak depolama alanı monte edilmiş çalışan bir küme sunar.