Natera, Kanser Hastaları İçin Amazon Bedrock AgentCore ile Yapay Zeka Destekli Randevu Sistemi Geliştirdi
Geliştirilen sesli asistan, 500 simülasyonda yüzde 100 araç çağırma doğruluğu sağlarken, arama başına 0,01 dolardan düşük maliyetle ve 7 saniyenin altında algılanan gecikmeyle çalışıyor.
Hücre dışı DNA testi alanında uzmanlaşan tanı şirketi Natera, kanser hastalarının evde kan alma randevularını kolaylaştırmak amacıyla Amazon Bedrock AgentCore tabanlı otomatik bir sesli randevu asistanı geliştirdi. Amazon ECS altyapısından sunucusuz AgentCore çalışma zamanına taşınan sistem, manuel arama süreçlerinin yerini alarak randevu işlemlerini tamamen otomatik hale getiriyor.
Mimari Tasarım ve Üç Temel İlke
Natera ve AWS iş birliğiyle tasarlanan sesli asistan, gerçek zamanlı ses akışını yönetmek için üç temel mimari ilkeye dayanıyor. Sistem, telefon akışı ile model çıkarımını birbirinden ayıran çift WebSocket köprü deseni kullanıyor. Bu sayede altyapı bileşenleri sistemin tamamını yeniden tasarlamaya gerek kalmadan bağımsız olarak değiştirilebiliyor.
İkinci ilke olan olay odaklı gecikme maskeleme tekniği, arka planda veri işlenirken hastaya doğal ara yanıtlar sunarak sessizlik süresini azaltıyor. Üçüncü ilke olan aşamalı güven modeli ise hastanın kimlik doğrulama işlemlerini görüşme ilerledikçe adım adım gerçekleştirerek daha doğal bir diyalog akışı sağlıyor.
Amazon ECS'den Sunucusuz Altyapıya Geçiş
Natera, sesli asistan iş yüklerini Amazon ECS konteynerlerinden tamamen yönetilen ve sunucusuz bir ortam olan Bedrock AgentCore çalışma zamanına taşıdı. Bu geçiş sürecinde ekip, ses yönlendirme mantığını konteyner altyapısından ayırarak AgentCore arayüzüne uyumlu hale getirdi.
Geçiş sırasında uzun ömürlü WebSocket bağlantılarının kısa süreli mikro sanal makinelerle uyumlu çalışması için bağlantı havuzu yöntemi uygulandı. Ayrıca, daha önce yerel konteyner belleğinde tutulan oturum durumları, AgentCore belleğine taşınarak sistemin güvenilirliği artırıldı ve operasyonel yükler azaltıldı.
Gecikme Maskeleme ve Claude Haiku Entegrasyonu
Sistem, arka planda çalışan araç çağrıları sırasında hastanın beklediğini hissetmemesi için paralel bir dolgu döngüsü çalıştırıyor. Amazon CloudWatch günlükleri üzerinden yapılan ölçümlerle her bir işlem için gecikme süreleri belirlenerek otomatik tetikleme noktaları oluşturuldu.
Belirlenen bekleme sürelerinde Amazon Bedrock üzerinden Claude Haiku modeli kullanılarak bağlama uygun ve 15 kelimenin altında kısa dolgu cümleleri üretiliyor. Bu yöntem, hastanın uzun sessizlikler yerine doğal bir asistan yanıtı duymasını sağlayarak kullanıcı deneyimini iyileştiriyor.