OpenAI, 1 Milyar ChatGPT Kullanıcısı İçin Habitat Depolama Platformunu Güncelledi
OpenAI, 500 petabayt veriyi yöneten Habitat depolama platformunu, 1 milyarı aşkın kullanıcıya hizmet verecek şekilde yeniden yapılandırdı. Şirket, Azure Cosmos DB üzerinde çok kiracılı mimariye dönerek ölçeklenebilirlik sorunlarını çözdü.
OpenAI, 40 farklı coğrafi bölgede 1 milyardan fazla kullanıcıya hizmet veren Habitat adlı iç depolama platformunun ölçeklendirme sürecindeki ikinci aşamayı tamamladı. 500 petabayttan fazla veriyi yöneten sistem, performans ve güvenilirlik zorluklarını aşmak amacıyla mimari bir dönüşümden geçti.
Başlangıçta çok kiracılı bir Azure Cosmos DB yapısı kullanan OpenAI, 'gürültülü komşu' (noisy neighbor) sorunları ve mantıksal bölüm anahtarı limitleri nedeniyle performans engelleriyle karşılaştı. Bu durum, kritik hizmetler için tek kiracılı konteynerlere geçişi zorunlu kıldı ancak bu yöntem kapasite planlamasında karmaşıklık ve büyüme istikrarsızlığı gibi operasyonel yükler getirdi.
OpenAI, Azure ekibiyle iş birliği yaparak yeni bir çok kiracılı model geliştirdi. Bu model; sıcak anahtar kısıtlama (hot key throttling), hizmet kalitesi için istek katmanlandırma ve fiziksel bölümlerin 10 bin RU/s seviyesine kadar ölçeklenmesini sağlayan geliştirilmiş sunucusuz mod özelliklerini içeriyor. Paylaşımlı konteyner modeline dönüş, kaynak sağlama sorunlarını ortadan kaldırırken iş yükü izolasyonunu korumayı başardı.
Kaynaklar
- openai.com · Bağlantı