Deepgram, Amazon SageMaker AI İçin Yeni Gözlemlenebilirlik Özelliklerini Duyurdu

Yapay zeka şirketi Deepgram, Amazon SageMaker AI üzerinde çalışan konuşma tanıma (STT) ve metinden konuşmaya (TTS) modelleri için iki yeni gözlemlenebilirlik inovasyonu sunduğunu açıkladı. Bu yenilikler, kullanıcıların AWS hesaplarındaki veri güvenliğini korurken kullanım, faturalandırma ve motor düzeyinde görünürlük elde etmelerini sağlıyor.

Gelişmiş Metrikler ile Kolay Takip

Deepgram'ın sunduğu ilk yenilik olan Gelişmiş Metrikler (Enhanced Metrics), kullanım ve faturalandırma verilerini herhangi bir aracı yazılım, sidecar veya ek IAM iznine ihtiyaç duymadan doğrudan Amazon CloudWatch'a aktarıyor. Bu sistem, AWS Marketplace ağ izolasyonu ile uyumlu şekilde çalışarak konteyner standart çıktısına yazılan CloudWatch Gömülü Metrik Formatı (EMF) kayıtlarını kullanıyor.

Bu özellik kapsamında sunulan "Deepgram/SageMakerInference" alanı, tüketilen birimler, ses süresi ve karakter sayısı gibi metriklerle AWS Marketplace faturalarının doğrulanmasını kolaylaştırıyor. "Deepgram/SelfHosted" alanı ise konuşmacı ayrıştırma, maskeleme ve akıllı biçimlendirme gibi ürün düzeyindeki özelliklerin kullanımını izlemeye olanak tanıyor.

Prometheus ve OpenTelemetry Desteği

İkinci yenilik olan Prometheus ve OpenTelemetry desteği, motor düzeyinde ve GPU başına detaylı görünürlük sağlıyor. SageMaker AI üzerinde çalışan AWS yönetimindeki OpenTelemetry Toplayıcısı, metrikleri doğrudan Deepgram konteynerinden, GPU ve ana bilgisayar dışa aktarıcılarından topluyor.

Toplanan bu veriler, CloudWatch'un OTel uyumlu metrik deposuna aktarılarak CloudWatch, Grafana veya Prometheus uyumlu herhangi bir araç üzerinden PromQL sorgularıyla analiz edilebiliyor. Böylece kullanıcılar, kendi AWS hesaplarındaki ses ve transkript verilerinin güvenliğini tehlikeye atmadan derinlemesine performans takibi yapabiliyor.