Google'ın Yapay Zeka Çipleri TPU'lar Meta Veri Merkezlerinde Kullanılmaya Başlandı
Google, özel yapay zeka çipleri olan TPU'ların artık Meta'nın veri merkezlerinde kullanıldığını duyurdu. Yeni PyTorch tabanlı SGLang ve vLLM çıkarım motorları sayesinde, donanım üzerinde kod değişikliği gerektirmeden yapay zeka iş yükleri çalıştırılabiliyor.
Google, kendi geliştirdiği yapay zeka hızlandırıcıları olan Tensor İşleme Birimleri'nin (TPU) Meta'nın veri merkezlerinde aktif olarak kullanılmaya başlandığını açıkladı.
Google tarafından geliştirilen TPU'lar, Meta'nın veri merkezlerinde yapay zeka üretim iş yüklerini desteklemek üzere entegre edildi. Bu entegrasyon, Google'ın geliştirici blogunda duyurulan yeni PyTorch tabanlı SGLang çıkarım motoru sayesinde mümkün hale geldi. Ayrıca, yaygın olarak kullanılan bir diğer çıkarım motoru olan vLLM'in de TPU uyumlu açık kaynaklı bir sürümü yayınlandı.
Daha önce bu çıkarım motorları, TPU üzerinde çalışmak için Google'ın kendi JAX yapay zeka çerçevesini kullanıyordu. Yeni güncellemelerle birlikte donanım, PyTorch için yerel bir seçenek haline geldi ve kullanıcıların büyük oranda kod değişikliği yapmasına gerek kalmadan sistemin çalışmasına olanak tanıdı.
Kaynaklar
- tomshardware.com · Bağlantı