Amazon बेडरोक एजेंटकोर का उपयोग करके प्रस्तुतियाँ बनाएँ.
AWS Amazon Bedrock AgentCore पर एक AI एजेंट को दर्शाता है जो दस्तावेजों से ग्राउंड स्लाइड और सारांश बनाने के लिए retrieval-augmented generation का उपयोग करता है।
मुख्य जानकारी
- AWS एक संदर्भ समाधान प्रदान करता है जो एंटरप्राइज़ दस्तावेज़ों से क्लाइंट-तैयार PowerPoint प्रस्तुतियों के निर्माण को स्वचालित करता है, Amazon Bedrock AgentCore पर निर्मित AI एजेंट का उपयोग करके आंतरिक परीक्षण में 90 सेकंड से कम समय में प्रस्तुति पूरा करना।
- प्रणाली एक पर्यवेक्षक एजेंट का उपयोग करती है जो दो मुख्य उपकरणों के बीच अनुरोधों को रूट करता हैः एक पीपीटीएक्स डेक उत्पन्न करने के लिए पुनर्प्राप्त सामग्री और AI छवियों के साथ, और दूसरा Retrieval Augmented Generation ( RAG ) के माध्यम से ग्राउंडेड सारांश बनाने के लिए।
- RAG के माध्यम से आउटपुट सटीकता बनाए रखी जाती है, जहां Amazon S3 से दस्तावेजों को खंडित किया जाता है, Amazon Titan Text Embeddings v2 के साथ एम्बेडेड, Amazon OpenSearch Serverless में संग्रहीत और भ्रमित सामग्री को कम करने के लिए संदर्भ के रूप में पुनः प्राप्त किया जाता हैं।
- आर्किटेक्चर में एंटरप्राइज़-ग्रेड सुरक्षा और नियंत्रण शामिल हैं, जैसे Amazon Bedrock Guardrails इनपुट/आउटपुट फ़िल्टरिंग और पीआईआई संरक्षण के लिए, साथ ही API Gateway , लैम्ब्डा, डायनामोडीबी, एस 3, डब्ल्यूएएफ, कॉग्निटो, केएमएस encryption , एक्स-रे ट्रेसिंग और किरायेदार अलगाव।
- तैनाती के लिए AWS अनुमतियों, Amazon Bedrock मॉडल एक्सेस Claude Sonnet 4.6, टाइटन embeddings , और Stable Image Inpaint, साथ ही विकास उपकरण जैसे .NET, Python , Node.js , AWS CDK, और Docker , पर्यावरण को नियंत्रित करने वाली कॉन्फ़िगरेशन फ़ाइल की आवश्यकता होती है।
वित्तीय सेवा टीम अक्सर प्रति सप्ताह त्रैमासिक रिपोर्ट, अनुपालन दस्तावेजों और बाजार विश्लेषण को ग्राहक-तैयार PowerPoint डेक में बदलते हुए घंटों खो देते हैं। उस काम में सैकड़ों पृष्ठ पढ़ना, प्रमुख डेटा बिंदुओं को बाहर निकालना, स्लाइड्स की संरचना करना और सहायक दृश्य बनाना शामिल है। AWS से एक नया संदर्भ समाधान दिखाता है कि कैसे पूरे वर्कफ़्लो को स्वचालित किया जाए AI एजेंट सिस्टम पर बनाया गया Amazon Bedrock AgentCore आंतरिक परीक्षण में, प्रणाली ने 90 सेकंड के भीतर एक प्रस्तुति पूरी कर ली, जबकि उत्पन्न सामग्री स्रोत दस्तावेज़ों में आधारित रखी गई थी।
यह समाधान उन डेवलपर्स और एंटरप्राइज़ टीमों के उद्देश्य से है जो एक एजेंट को अपने स्वयं के ज्ञान आधार से जोड़ना चाहते हैं, न कि केवल मॉडल के training data पर भरोसा करना। यह कोड परिसंपत्तियों वाले सार्वजनिक रिपॉजिटरी के साथ जहाज करता है, इसलिए आर्किटेक्चर का निरीक्षण और पुनः उपयोग किया जा सकता है।
सिस्टम वास्तव में क्या करता है
इसके केंद्र में एक एकल पर्यवेक्षक एजेंट है, जिसे Amazon Bedrock AgentCore रनटाइम पर तैनात किया गया है।Amazon Bedrock AgentCore यह एजेंट Strands Agents फ्रेमवर्क के साथ बनाया गया है, जो AI एजेंटों को बनाने के लिए open source SDK है और यह तय करता है कि उपयोगकर्ता अनुरोध को दस्तावेज़ पीढ़ी, सारांश या दोनों की आवश्यकता है या नहीं।
पर्यवेक्षक के समक्ष दो उपकरण प्रस्तुत किए जाते हैंः
- generate_pptx PPTX Generator Lambda फ़ंक्शन को कॉल करके PowerPoint प्रस्तुतियाँ बनाता है, जो ज्ञान के आधार से सामग्री प्राप्त करता है, स्लाइड की रूपरेखा बनाता है, AI चित्र बनाता है और अंतिम फ़ाइल को इकट्ठा करता है।
- generate_summary ग्राउंडेड उत्तरों को वापस करने के लिए Retrieval Augmented Generation ( RAG ) का उपयोग करके ज्ञान आधार से जानकारी निकालता और संश्लेषित करता है।
एजेंट प्रत्येक अनुरोध को सही उपकरण में रूट करता है, और नई क्षमताओं को मौजूदा उपकरणों को छूने के बिना नए टूल को परिभाषित करके जोड़ा जा सकता है। सामग्री निर्माण द्वारा संचालित किया जाता है Anthropic Claude Sonnet 4.6 पर Amazon Bedrock, वेक्टर खोज Amazon Titan Text Embeddings v2, और स्लाइड छवियों द्वारा Stability AI Stable Image Inpaint, भी उपलब्ध Amazon Bedrock ।
कैसे पुनर्प्राप्ति आउटपुट को जमीनी बनाती है
RAG वह तंत्र है जो उत्पन्न पाठ को एंटरप्राइज़ डेटा से जोड़ता है। पाइपलाइन तब शुरू होती है जब दस्तावेज़ अपलोड किए जाते हैं Amazon Simple Storage Service (Amazon S3) । सिस्टम तालिकाओं, चार्ट और छवियों जैसे multimodal सामग्री के लिए विशेष हैंडलिंग के साथ उन्हें खंडित करता है और पार्स करता है Amazon Titan Text Embeddings v2 प्रत्येक टुकड़े को उच्च-आयामी वैक्टर में परिवर्तित कर देता है जो सिमेंटिक अर्थ पर कब्जा करते हैं, और Amazon OpenSearch Serverless उन वैक्टरों को एक खोज योग्य डेटाबेस के रूप में संग्रहीत करता है।
क्वेरी समय पर, उपयोगकर्ता के अनुरोध को embedding में परिवर्तित किया जाता है और संग्रहीत वैक्टरों से मेल खाता है। सबसे प्रासंगिक टुकड़े पुनर्प्राप्त किए जाते हैं और संदर्भ के रूप में भाषा मॉडल में पारित होते हैं, इसलिए प्रतिक्रियाएं स्रोत सामग्री में आधारित होती हैं। AWS नोट्स इस डिजाइन का उद्देश्य भ्रमित सामग्री को कम करने में मदद करना है।
एक तैनाती विवरण चिह्नित करने लायक हैः Amazon OpenSearch Serverless संग्रह डेटा विमान को सार्वजनिक रूप से सुलभ रहना चाहिए, क्योंकि Amazon Bedrock Knowledge Bases ग्राहक के वीपीसी एंडपॉइंट्स के बजाय AWS -प्रबंधित बुनियादी ढांचे से OpenSearch Serverless तक पहुंचता है। आईएएम डेटा एक्सेस नीतियां संग्रह की रक्षा करती हैं, और केवल वीपीसीसी एक्सेस डैशबोर्ड पर प्रतिबंध लगाती है।
गार्डरेल और सुरक्षा नियंत्रण
एंटरप्राइज़ तैनाती को सामग्री मॉडरेशन की आवश्यकता होती है, और Amazon Bedrock Guardrails पाइपलाइन में कई बिंदुओं पर फ़िल्टरिंग प्रदान करता है। इनपुट प्रोसेसिंग इंजेक्शन मुद्दों और अनुचित सामग्री को रोकने में मदद करने के लिए उपयोगकर्ता अनुरोधों की स्क्रीन करती है। आउटपुट पीढ़ी सामग्री नीतियों के खिलाफ मॉडल प्रतिक्रियाओं की निगरानी करती है. व्यक्तिगत रूप से पहचान योग्य जानकारी (पीआईआई) का पता लगाया जाता है और या तो गुमनाम या अवरुद्ध किया जाता है। गार्डरेल उद्यम दस्तावेज़ निर्माण के लिए अनुकूलित नीतियों के साथ AWS Cloud Development Kit (AWS CDK) के माध्यम से बनाए जाते हैं, और वे मॉडल आह्वान स्तर पर लागू होते हैं, इसलिए प्रति परिनियोजन कोई मैनुअल कॉन्फ़िगरेशन आवश्यक नहीं है।
आर्किटेक्चर रूट अनुरोधों के माध्यम से Amazon API Gateway एक .NET-आधारित Chat API पर चल रहा है AWS Lambda, Amazon DynamoDB में आयोजित वार्तालाप राज्य के साथ। पर्यवेक्षक एजेंट फिर AgentCore रनटाइम पर चलता है। उत्पन्न दस्तावेज लैंड Amazon S3 और सुरक्षित डाउनलोड के लिए पूर्व हस्ताक्षरित URL के रूप में लौटाए जाते हैं।
अतिरिक्त सुरक्षा में शामिल हैं AWS WAF प्रबंधित नियम सेट और आईपी-आधारित दर को सीमित करना API Gateway; प्लस फीचर प्लान और उन्नत सुरक्षा मोड के साथ Amazon Cognito; Amazon डायनामोडीबी पॉइंट-इन-टाइम रिकवरी, डिलीट प्रोटेक्शन और कस्टमर-मैनेज्ड AWS KMS encryption ; Amazon S3 संस्करणों के साथ बकेट, server एक्सेस लॉगिंग और ब्लॉक पब्लिक एक्सेस; AWS लैम्ब्डा फ़ंक्शंस पर एक्स-रे ट्रेसिंग; किरायेदार और सत्र आईडी की रेगेक्स आधारित सत्यापन; और प्रति किराएदार भूमिका धारणा के माध्यम से किरायेदारों का अलगाव।
पूर्व शर्तें और सेटअप
तैनाती से पहले, आपको बुनियादी ढांचे की अनुमतियों के साथ एक सक्रिय AWS खाता, AWS CLI क्रेडेंशियल्स के साथ कॉन्फ़िगर किया गया और सही सेवा एक्सेस नीतियों के साथ IAM भूमिका की आवश्यकता होती है। विकास पक्ष पर, समाधान को Amazon .Lambda.Tools के साथ विश्व स्तर पर स्थापित करने के लिए .NET SDK 8 , Python 3.12 या बाद में AWS CDK और लैम्ब्डा फ़ंक्शंस, Node.js और AWS CDK CLI और ARM64 समर्थन के साथ कंटेनर छवियों के निर्माण के लिए Docker या फिंच की आवश्यकता होगी।
आपको Amazon Bedrock में Anthropic Claude Sonnet 4.6, Amazon Titan Text Embeddings v2, और Stability AI Stable Image Inpaint के लिए मॉडल एक्सेस की भी आवश्यकता है, साथ ही आपके खाते में AgentCore एक्सेस सक्षम होना चाहिए। API Gateway Regional REST API एकीकरण टाइमआउट को कम से कम 300 सेकंड पर सेट किया जाना चाहिए, क्योंकि डिफ़ॉल्ट 29 सेकंड है। निजी सबनेट्स के साथ मौजूदा Amazon VPC और तैनाती कलाकृतियों के लिए Amazon S3 बाल्टी की भी जरूरत होती है।
सेटअप रिपॉजिटरी को क्लोन करके शुरू होता है और रिपोजिटरी रूट पर एक ∀pipeline-params.ini` कॉन्फ़िगरेशन फ़ाइल बनाता है। वह फाइल वातावरण, कंटेनर रजिस्ट्री, बकेट,VPC ID इन्फेरेंस प्रोफाइल आईडी, embedding मॉडल आई डी, इमेज जनरेशन मॉडल आईडी और छवि टैग निर्दिष्ट करती है। पर्यावरण चर क्रेडेंशियल्स का उपयोग करने के लिए ≠awscliprofile∂ मान खाली छोड़ दिया जा सकता है। AWS CDK फिर प्रति खाता और क्षेत्र में एक बार बूटस्ट्रैप की आवश्यकता होती है, जो AWS CloudFormation CDKToolkit स्टैक बनाती है। अंत में, तीन बिल्ड स्क्रिप्ट निष्पादन योग्य बनाई जाती हैं।
तीन चरणों में निर्माण और तैनाती
बिल्ड चरण .NET Chat API परियोजनाओं को संकलित करता है और उन्हें लैम्ब्डा परिनियोजन पैकेजों के रूप में पैकेज करता है। यह Docker या फिंच का उपयोग करके PPTX Generator कंटेनर छवि बनाता है, Amazon Elastic Container Registry (Amazon ECR) के साथ प्रमाणीकृत होता है, छवि को धक्का देता है, और एसेट-आउटपुट निर्देशिका में निर्माण कलाकृतियों को संग्रहीत करता है.
अवसंरचना की तैनाती निर्भरता क्रम में चार AWS CloudFormation ढेर बनाता हैः
- वीपीसीएंडपॉइंट्सस्टैक Amazon Bedrock AgentCore सहित AWS सेवाओं के लिए Amazon VPC अंत बिंदुओं को कॉन्फ़िगर करता है।
- ओपनसर्चस्टैक वेक्टर भंडारण के लिए Amazon OpenSearch Serverless संग्रह प्रदान करता है।
- एजेंटकोरस्टैक गार्डरेल बनाता है, लैम्ब्डा फ़ंक्शंस, आईएएम भूमिकाएं और स्टोर्स कॉन्फ़िगरेशन AWS Systems Manager Parameter स्टोर में।
- चैटएपीस्टैक तैनात करता है Amazon API Gateway और Chat API Lambda.
तीसरा चरण पर्यवेक्षक एजेंट को AgentCore रनटाइम में तैनात करता है। स्क्रिप्ट ARM64 के लिए एजेंट कंटेनर बनाता है, इसे Amazon ECR पर धकेलता है, और एजेंटकोर रन टाइम बनाता है।
एजेंटों का मूल्यांकन करने वाली टीमों के लिए इसका क्या अर्थ है
इस समाधान का दिलचस्प हिस्सा PowerPoint आउटपुट स्वयं नहीं है, बल्कि इसके पीछे पैटर्न हैः एक पर्यवेक्षक एजेंट जो विशेष उपकरणों के लिए रूट करता है, एक RAG पाइपलाइन जो स्रोत दस्तावेजों से जुड़ी पीढ़ी को बनाए रखती है और मॉडल स्तर पर लागू गार्डरेल। ये ऐसे टुकड़े हैं जो एक एजेंट को विनियमित वातावरण में उपयोग करने योग्य बनाते हैं, और वे सबसे अधिक टीमों द्वारा कम करके आंका जाता है जब वे पहली बार दस्तावेज़ कार्य को स्वचालित करने की कोशिश करते हैं।
90 सेकंड का आंकड़ा AWS आंतरिक परीक्षण से आता है, इसलिए वास्तविक दुनिया में प्रदर्शन दस्तावेज़ की मात्रा, ज्ञान आधार आकार और क्षेत्र उपलब्धता पर निर्भर करेगा। जो कोई भी पैटर्न को अपनाने की योजना बना रहा है उसे Amazon Bedrock में क्षेत्र द्वारा मॉडल उपलब्धता की पुष्टि करनी चाहिए और API Gateway टाइमआउट परिवर्तन के लिए योजना बनानी चाहिए, जिसे अनदेखा करना आसान है और यदि डिफ़ॉल्ट रूप से छोड़ दिया जाए तो लंबे समय तक चलने वाली पीढ़ी को तोड़ देगा।
Comments (0)