Amazon Bedrock पर Anthropic Claude मॉडल के लिए संरचित आउटपुट उपलब्ध हैं।

मेटा विवरणः Amazon Bedrock अब सभी Anthropic Claude मॉडल के लिए स्कीमा-संगत JSON आउटपुट का समर्थन करता है।

टैगः Amazon Bedrock, Anthropic Claude, संरचित आउटपुट, JSON स्कीमा, एजेंटिक वर्कफ़्लो

विशेष रुप से प्रदर्शित छवि: अमूर्त दोस्ताना चित्रण शैली, कोई वास्तविक लोग नहीं हैं, कोई लोगो नहीं है, कोई पाठ नहीं है

Amazon Bedrock संरचित आउटपुट अब सभी Anthropic Claude मॉडलों के लिए उपलब्ध हैं, जहां मॉडल उपलब्ध है। डेवलपर्स बोटो 3 और बेडरॉक-रनटाइम एपीआई के माध्यम से क्लाउड को कॉल करते हैं, या Messages API और बेदरॉक-मैन्टल एंडपॉइंट के जरिए, अब स्कीमा-संगत जेएसओएन प्रतिक्रियाएं प्राप्त कर सकते हैं जो एक परिभाषित संरचना के अनुरूप होती हैं। इसका मतलब है कि कस्टम पार्सिंग, रीट्री लॉजिक और पोस्ट प्रोसेसिंग को कई क्लौड इंटीग्रेशन से हटाया जा सकता है।

यह क्षमता उन कार्यों पर लक्षित है जिन्हें उद्योगों में दोहराए जाने वाले मशीन-पठनीय परिणामों की आवश्यकता होती है। उदाहरणों में वित्तीय आय रिपोर्ट और अनुपालन दस्तावेजों से प्रत्येक आवश्यक फ़ील्ड निकालना, Electronic Health Records में नैदानिक नोट्स को पार्स करना और सुसंगत, सत्यापित परिणामों के साथ उत्पाद कैटलॉग को समृद्ध करना शामिल हैं। यह प्रमुख शर्तों, दलों और दायित्वों या पावर इंटेलिजेंट सपोर्ट टिकट रूटिंग के लिए अनुबंध का विश्लेषण भी कर सकता है जहां इरादे, भावनाएं और संस्थाएँ हमेशा एक एप्लिकेशन डेटा मॉडल से मेल खाती हैं।

कैसे सुविधा परिवर्तन आउटपुट विश्वसनीयता

संरचित आउटपुट टोकन जनरेशन के दौरान एक JSON स्कीमा को लागू करने के लिए सीमित डिकोडिंग का उपयोग करते हैं, बजाय इसके कि वे उत्पादन के बाद परिणाम की जांच करें। मॉडल ऐसे टोकन उत्पन्न नहीं करता है जो योजना का उल्लंघन करेंगे, जो आउटपुट स्वरूपण को संभाव्यतावादी से निर्धारक में ले जाता है।

दोनों Amazon Bedrock एंडपॉइंट्स पर दो पूरक तंत्र उपलब्ध हैं। JSON Schema आउटपुट प्रारूप मॉडल प्रतिक्रिया संरचना को नियंत्रित करता है और डेटा निष्कर्षण, रिपोर्ट जनरेशन और API उत्तरों के लिए उपयोगी होता है। सख्त उपकरण उपयोग योजनाओं के खिलाफ टूल मापदंडों को मान्य करता है तथा इसका उद्देश्य एजेंटिक वर्कफ़्लो, फ़ंक्शन कॉलिंग और मल्टी-स्टेप ऑटोमेशन है।

डेवलपर्स के लिए, प्रत्येक प्रतिक्रिया वैध JSON है, इसलिए अब JSON.parse त्रुटियों और पार्सिंग अपवादों की उम्मीद नहीं की जाती है। उत्तर प्रकार सुरक्षित हैं क्योंकि फ़ील्ड प्रकार लागू किए जाते हैं और आवश्यक क्षेत्र हमेशा मौजूद होते हैं। चूंकि आउटपुट स्कीमा के अनुरूप होते हैं, इसलिए एकीकरण को अधिक विश्वसनीय बनाते हुए स्कीम उल्लंघनों को संभालने के लिए पुनः प्रयास करने की आवश्यकता नहीं होती है। यह सुविधा केवल योजना द्वारा परिभाषित क्षेत्रों पर ही प्रतिक्रियाओं को प्रतिबंधित करती है, जिससे आउटपुट टोकन गिनती कम हो जाती है और संभावित रूप से उच्च मात्रा वाले वर्कलोड के लिए अनुमान लागत में कमी आती है। इससे संरचित आउटपुट उत्पादन तैयार हो जाता है, जो अतिरिक्त योजना-मान्यता कोड के बिना पैमाने पर तैनाती की अनुमति देता है।

उपलब्धता, कैशिंग और प्रदर्शन

संरचित आउटपुट बैच अनुमान के साथ काम करते हैं, इसलिए बड़ी मात्रा में अनुरोधों को असिंक्रोनस रूप से संसाधित किया जा सकता है जबकि अभी भी स्कीमा-अनुरूप आउटपुट लौटाया जाता है। बेडरॉक-रनटाइम एंडपॉइंट पर, यह सुविधा क्रॉस-रिजनल इन्फरेंस के साथ भी काम करती है, जो अतिरिक्त सेटअप के बिना AWS Regions में उपयोग की अनुमति देती है। वास्तविक समय अनुप्रयोगों के लिए, संरचित प्रतिक्रियाओं को टाइप्ड इवेंट्स के रूप में स्ट्रीम किया जा सकेगा।

जब किसी अनुरोध में एक JSON स्कीमा शामिल होता है, तो Amazon Bedrock इसे समर्थित JSON Schema Draft 2020-12 उप-समूह के खिलाफ मान्य करता है। नई योजनाओं के लिए, Amazon Bedrock व्याकरण कलाकृतियों को संकलित करता है, इसलिए पहला अनुरोध थोड़ा अधिक समय ले सकता है। संकलन किए गए व्याकरणों को 24 घंटे तक कैश किया जाता है, जिससे बाद के अनुरोध तेज हो जाते हैं। बाध्य पीढ़ी के दौरान, मॉडल टोकन का उत्पादन करता है जो वैध जेएसओएन बनाते हैं जो स्कीम से मेल खाते हैं।

प्रदर्शन कैश को खाते में स्कोप किया जाता है और पहले एक्सेस से 24 घंटों के लिए रहता है। जेएसओएन योजना की संरचना बदलने से कैश अमान्य हो जाती है और एक नया संकलन शुरू होता है। केवल नाम या विवरण फ़ील्ड बदलना कैश्ड व्याकरण बरकरार छोड़ देता है.

आधार रॉक-रनटाइम पर InvokeModel उदाहरण

InvokeModel API एंथ्रोपिक-नेटिव अनुरोध निकाय लेता है. उस अनुरोध में, स्कीमा output_config.format में एक JSON ऑब्जेक्ट के रूप में आता है, न कि JSON स्ट्रिंग, और प्रारूप प्रकार का उपयोग करता है json_schema योजना वस्तु के साथ।

उदाहरण us-east-1 क्षेत्र में Boto3 का उपयोग करता है जिसमें एक क्लाइंट के साथ आधारभूत रनटाइम सेवा होती है. यह चार आवश्यक फ़ील्डों के साथ लीड डेटा के लिए एक स्कीमा को परिभाषित करता हैः name ग्राहक नाम के रूप में वर्णित स्ट्रिंग, ईमेल ग्राहक ई-मेल पते के तौर पर वर्णित स्ट्रिंग, plan_interest रुचि की उत्पाद योजना और demo_requested जैसा कि बुलियन द्वारा वर्णित किया गया था।

अनुरोध modelId global.anthropic.claude-sonnet-5-5, anthropic_version bedrock-2023-05-31, और max_tokens 512 का उपयोग करता है। उपयोगकर्ता संदेश कहता हैः Paulo Santos ([email protected]) हमारी एंटरप्राइज़ योजना में रुचि रखता है और अगले मंगलवार दोपहर 2 बजे के लिए एक डेमो शेड्यूल करना चाहता है।

उत्तर JSON में नाम Paulo Santos, ईमेल [email protected], plan_interest एंटरप्राइज, और demo_requested true शामिल हैं. कोड पार्सिंग से पहले stop_reason की जांच करता है। यदि stop_because end_turn है, तो यह टेक्स्ट ब्लॉक को पढ़ता है और इसे पार्स करता है. अगर stop_reasons max_tokens है तो प्रतिक्रिया संकुचित हो जाती है और अधिकतम टोकन बढ़ाए जाने चाहिए और पुनः प्रयास किया जाना चाहिए। प्रतिक्रिया स्कीमा के अनुरूप है, इसलिए कोई अतिरिक्त सत्यापन आवश्यक नहीं है। Messages API सहित Additional API उपयोग उदाहरण साथ दिए गए नमूना नोटबुक में उपलब्ध हैं।

रॉक-मैन्टल पर सख्त उपकरण का उपयोग

Amazon Bedrock Mantle को सर्वर-साइड टूल्स, बैकग्राउंड इन्फरेंस और स्टेटफुल वार्तालापों के साथ एजेंटिक अनुप्रयोगों के लिए डिज़ाइन किया गया है। बेस रॉक-मैन्टल एंडपॉइंट पर सख्त टूल उपयोग के साथ, उपकरण पैरामीटर एक इनपुट स्कीमा से बिल्कुल मेल खाने की गारंटी दी जा सकती है।

उदाहरण us-east-1 में एक AnthropicBedrockMantle क्लाइंट बनाता है और max_tokens 512 के साथ मॉडल anthropic.claude-sonnet-5 को कॉल करता है। उपयोगकर्ता पूछता हैः San Francisco में मौसम कैसा है? यह get_weather टूल को सही पर सख्ती से सेट करके परिभाषित करता है । उपकरण का विवरण है किसी निर्दिष्ट स्थान के लिए वर्तमान मौसम प्राप्त करें । इनपुट_स्कीमा को स्थान और इकाई की आवश्यकता होती है, अतिरिक्त गुणों को झूठे पर सेट करती है, और शहर और राज्य के लिए एक स्ट्रिंग के रूप में स्थान का वर्णन करती है , जैसे कि San Francisco, सीए। यह यूनिट को सेंटीग्रेड या फारेनहाइट तक सीमित करती है और इसे तापमान इकाई कहते हैं।

स्ट्रिक्ट को सही पर सेट करने से टूल इनपुट स्कीमा के साथ मेल खाने के लिए प्रतिबंधित होता है। स्थान फ़ील्ड हमेशा एक स्ट्रिंग होती है, और यूनिट फील्ड हमेशा या तो सेल्सियस या फारेनहाइट होती है। मॉडल योजना के बाहर क्षेत्र नहीं जोड़ सकता है, इसलिए उपकरण इनपुट में केवल वही होता है जो योजना निर्दिष्ट करती है। यह Amazon Bedrock Mantle पर एजेंटिक उपयोग मामलों के लिए विशेष रूप से मूल्यवान है, जहां मॉडल वेब खोज और कोड दुभाषिया जैसे सर्वर-साइड टूल्स के साथ मल्टी-स्टेप वर्कफ़्लो ऑर्केस्ट्रेट करते हैं।

उपयोग मामले और स्कीमा प्रथाएं

संरचित आउटपुट तीन सामान्य पैटर्नों में त्रुटि-हैंडलिंग जटिलता को कम करते हैं। डेटा निष्कर्षण JSON में चालान, अनुबंध, ईमेल और प्रतिलेख से फ़ील्ड खींचता है जो हमेशा स्कीमा के साथ मेल खाता है, डेटाबेस या ग्राहक संबंध प्रबंधन प्रणालियों में लोड करने के लिए तैयार होता है। विश्वसनीय एजेंट टूल कॉल पीढ़ी के समय उनके योजनाओं के खिलाफ उपकरण तर्कों को मान्य करता है, इसलिए मल्टी-स्टेप एजेंट वर्कफ़्लो खराब इनपुट से विफलताओं के बिना चलता है। पैमाने पर वर्गीकरण टिकट, लीड्स या सामग्री को इरादे, प्राथमिकता और रूटिंग, मॉडरेशन और मूल्यांकन के लिए भावना द्वारा वर्गीकृत करता है।

Claude Haiku 5.5 भरोसेमंद रूप से त्वरित और दोहराए जाने वाले कार्यभार जैसे सारांश, संपीड़न, डेटाबेस क्वेरी और वर्गीकरण अनुरोधों को संभालता है। वर्गीकरण उदाहरण में anthropic_version bedrock-2023-05-31 और max_tokens 512 के साथ us-east-1 में Invoke API और modelId global.anthropic.claude-haiku-5-5 का उपयोग किया गया है। सिस्टम प्रॉम्प्ट कहता हैः आप एक समर्थन टिकट क्लासिफ़ायर हैं। टिकट को सही ढंग से वर्गीकृत करें। टिकट पाठ कहते हैंः हमारा उत्पादन API कॉल आज सुबह से 500 त्रुटियों के साथ विफल हो रहा है। हम हर मिनट ऑर्डर खो रहे हैं। यह इस महीने की दूसरी आउटेज है!

वर्गीकरण योजना निश्चित लेबलों के लिए आउटपुट को प्रतिबंधित करने के लिए enums का उपयोग करती है। श्रेणी बिलिंग, तकनीकी, खाता, बिक्री या अन्य हो सकती है और प्राथमिक टिकट श्रेणी का प्रतिनिधित्व करता है। प्राथमिकता कम, मध्यम, उच्च, या तत्काल हो सकता है और व्यावसायिक प्रभाव के आधार पर तात्कालिकता का प्रतिनिधित्व कर सकता है। भावना सकारात्मक, तटस्थ, या नकारात्मक हो सकते हैं और ग्राहक की भावना का प्रतिनिधित्व करते हैं। एस्केलेटेड एक बूलियन है जो इंगित करता है कि क्या किसी व्यक्ति को तुरंत समीक्षा करनी चाहिए, और कारण एक स्ट्रिंग है जिसमें एक वाक्य औचित्य शामिल है। अतिरिक्त गुण गलत है. उदाहरण stop_reason की जांच करता है, पाठ ब्लॉक को पार्स करता है , परिणाम प्रिंट करता है और जब escalate सही होता है तो कैटेगरी और प्राथमिकता के साथ ऑन-कॉल में स्केलिंग करके टिकटों को रूट किया जाता है। यदि stop_because max_tokens है, तो प्रतिक्रिया काट दी जाती है और अधिकतम टोकन बढ़ाया जाना चाहिए और फिर से प्रयास करना चाहिए।

प्रभावी उपयोग के लिए, अतिरिक्तProperties को सभी ऑब्जेक्ट्स पर झूठा सेट करें; यह काम करने के लिए संरचित आउटपुट के लिए आवश्यक है और इसके बिना स्कीमा स्वीकार नहीं की जाएगी। वर्णनात्मक फ़ील्ड नामों और विवरण का प्रयोग करें क्योंकि मॉडल गुण नामों का उपयोग करते हैं और वर्णन समझते हैं कि किस डेटा को निकालना है; customer_email जैसे स्पष्ट नाम field1 जैसे सामान्य नामों से बेहतर प्रदर्शन करते हैं. वैध मूल्यों के सीमित सेट वाले क्षेत्रों के लिए enum का उपयोग करें। न्यूनतम आवश्यक क्षेत्रों के साथ शुरू करें और वृद्धिशील रूप से जटिलता जोड़ें क्योंकि बुनियादी योजनाएं तेजी से संकलित होती हैं, डिबग करना आसान होता है, और अनुरोध पेलोड को दुबला रखती हैं क्योंकि स्कीम Converse API पैललोड आकार की ओर गिनती करती है। योजनाओं का पुनः उपयोग कैशिंग से लाभ उठाने में भी मदद करता है।