Amazon SageMaker AI için kullanım bazlı ücretlendirme dönemi başladı
AWS, SageMaker AI çift yönlü akış çıkarımı için gerçek zamanlı tüketim verilerine dayalı yeni bir faturalandırma sistemini devreye aldı. Bu özellik, model sağlayıcılarının hizmetlerini daha esnek bir şekilde ücretlendirmesine olanak tanıyor.
Amazon Web Services (AWS), Amazon SageMaker AI üzerinde gerçekleştirilen çift yönlü akış çıkarımları için kullanım bazlı ölçümleme özelliğini kullanıma sundu.
Yeni sistem, özellikle gerçek zamanlı konuşma yapay zekası gibi alanlarda model sağlayıcılarının müşterilerini canlı akış sırasındaki tüketim miktarına göre ücretlendirmesini mümkün kılıyor. Daha önce oturum süresi ve tüketim miktarı oturum sonuna kadar netleşmediği için yaşanan faturalandırma zorlukları, bu güncellemeyle aşılıyor.
Sistem, mevcut çıkarım akışına eklenen 'meta veri bağlantısı' adlı ikinci bir WebSocket kanalı üzerinden çalışıyor. Model sunucuları, bu kanal aracılığıyla JSON formatında ölçümleme verilerini gerçek zamanlı olarak raporlayabiliyor. Deepgram, bu özelliği kullanarak AWS Marketplace üzerinden kullanım bazlı Konuşmadan Metne ve Metinden Konuşmaya faturalandırma hizmeti sunan ilk iş ortağı oldu. SageMaker AI uç nokta altyapı ücretlerinin ise bu yazılım ücretlerinden ayrı olarak uygulanmaya devam edeceği belirtildi.
Kaynaklar
- aws.amazon.com · Bağlantı