Amazon Bedrock üzerinde Anthropic Claude modellerine yapılandırılmış çıktı desteği
Amazon Web Services, Amazon Bedrock platformundaki tüm Anthropic Claude modelleri için şemaya uygun JSON yanıtları sunan yapılandırılmış çıktı desteğini duyurdu.
Amazon Web Services (AWS), Amazon Bedrock üzerinde yer alan tüm Anthropic Claude modellerinin artık bedrock-runtime ve bedrock-mantle uç noktalarında yapılandırılmış çıktıları destekleyeceğini açıkladı.
Yapılandırılmış çıktı desteği sayesinde geliştiriciler, Boto3 ve bedrock-runtime API'leri ile ya da bedrock-mantle uç noktasındaki Messages API aracılığıyla Claude'u çağırarak doğrudan tanımlanan bir şemaya uyan JSON yanıtları alabiliyor. Bu yenilik, özel ayrıştırma, yeniden deneme mantığı veya sonradan işleme süreçlerine duyulan ihtiyacı ortadan kaldırıyor.
Sistem, token üretimi sırasında JSON şemasını zorunlu kılan kısıtlı kod çözme (constrained decoding) yöntemini kullanıyor. Böylece çıktı biçimlendirmesi olasılıksal olmaktan çıkıp deterministik bir yapıya kavuşuyor.
Kaynaklar
- aws.amazon.com · Bağlantı