ट्यूटोरियल

Deep Insight यह बताता है कि उत्पादन AI एजेंटों के लिए कामकाजी कोड में चार संदर्भ इंजीनियरिंग परतें कैसे उपयोग की जाती हैं।

उत्पादन AI एजेंटों को 200,000 tokens के भीतर रखने के लिए चार संदर्भ परतें एजेंट, सीमा संकेतकों का उपयोग करती हैं और आउटपुट सत्यापित करती हैं।

Deep Insight यह बताता है कि उत्पादन AI एजेंटों के लिए कामकाजी कोड में चार संदर्भ इंजीनियरिंग परतें कैसे उपयोग की जाती हैं।

मुख्य जानकारी

  • Deep Insight उत्पादन AI एजेंटों को 200,000 टोकन विंडो के भीतर रखने के लिए चार संदर्भ-इंजीनियरिंग परतें - आर्किटेक्चर, संकेत, उपकरण और सत्यापन लागू करता है।
  • लंबे डेटा-विश्लेषण वर्कफ़्लोज़ एक ही संदर्भ में 150,000 टोकन का उपभोग कर सकते हैं, जिससे अतिप्रवाह, बिगड़ी सटीकता और उच्च लागत हो सकती है।
  • प्रत्येक विशेष एजेंट अपने स्वयं के अलग-थलग संदर्भ में चलता है और अनावश्यक टोकन संचय को रोकते हुए केवल संपीड़ित सारांश साझा करता है।
  • संकेत सख्त आउटपुट सीमाओं और मानकीकृत स्वरूपों को लागू करते हैं, जबकि उपकरण उन्हें संदर्भ में रखने के बजाय भारी कोड और डेटा को फ़ाइलों में स्थानांतरित करते हैं।

उन बिल्डरों के लिए जो उत्पादन AI एजेंट को Amazon Bedrock पर चलाते हैं, Deep Insight गाइड का दूसरा भाग दिखाता है कि कैसे उत्पादन AI एजेन्ट के लिए संदर्भ इंजीनियरिंग एक 200,000-टोकन विंडो के अंदर लंबे डेटा-विश्लेषण कार्यों को रख सकती है। एंथ्रोपिक September सितंबर 2025 मार्गदर्शन और ओपन सोर्स Deep Insight रेफरेंस इम्प्लीमेंटेशन पर आधारित Strands Agents SDK और Amazon Bedrock AgentCore, मार्गदर्शिका रिपोर्ट करती है कि एक एकल लेखन और निष्पादन उपकरण टोकन में कटौती करता है प्रत्येक स्क्रिप्ट संदर्भ में लगभग 95 प्रतिशत जोड़ती है, जबकि मांग पर लोडिंग कौशल सिस्टम प्रॉम्प्ट को लगभग 97 प्रतिशत तक सिकुड़ देती है।

Deep Insight explains how four context engineering layers are used in working code for production AI agents.

200,000-टोकन विंडो अभी भी कम क्यों चलती है

संदर्भ इंजीनियरिंग का अर्थ है एक कार्य के दौरान एक बड़े भाषा मॉडल (LLM) को नियंत्रित करना ताकि एजेंट सटीक, किफायती और समाप्त करने में सक्षम रहे। Anthropic Claude Sonnet 4.5 पर उपलब्ध Amazon Bedrock , 200,000 संदर्भ विंडो प्रदान करता है, लेकिन जटिल उत्पादन काम इसे जल्दी से खत्म कर सकता है।

एक अनुरोध जैसे कि Anबिक्री डेटा का विश्लेषण करें और DOCX रिपोर्ट बनाएं 5 कई चरणों से गुजरता हैः 5 मिनट के लिए डेटा लोड करना और अन्वेषण करना, 3 मिनट की श्रेणी-आधारित बिक्री विश्लेषण, 10 मिनट तक समय-श्रृंखला विश्लेषण के लिए पांच चार्ट उत्पन्न करना, तीन मिनट का सांख्यिकीय सत्यापन और अंतिम रिपोर्ट पीढ़ी। साथ में, ये चरण 15 मिनट में 150,000 टोकन पर उपभोग करते हैं।

जब यह सब एक संदर्भ में होता है, तो विंडो मिड-टास्क ओवरफ्लो हो सकती है, पुरानी जानकारी गुणवत्ता को कम कर सकती है और त्रुटियां पूरी पाइपलाइन को फिर से चलाने के लिए मजबूर कर सकती हैं। जैसा कि संदर्भ बढ़ता है, महत्वपूर्ण सूचनाओं पर ध्यान गिर जाता है, और अक्षमता प्रति टोकन मूल्य निर्धारण के तहत लागत बढ़ा देती है। एंथ्रोपिक इस रिकॉल समस्या का वर्णन संदर्भ सड़ांध के रूप में करता है।

द्वारा प्रयुक्त चार-परत दृष्टिकोण Deep Insight

प्रत्येक परत पिछले एक द्वारा छोड़ी गई कमजोरी को संबोधित करती हैः आर्किटेक्चर काम को अलग करता है, संकेत देता है कि एजेंट क्या लौटते हैं, उपकरण भारी सामग्री को फ़ाइलों में स्थानांतरित करते हैं, और सत्यापन एजेंट और सुरक्षा शेष विफलताओं को पकड़ लेते हैं।

परत 1: आर्किटेक्चर प्रत्येक एजेंट को अपनी खिड़की देता है

एकल एजेंट के साथ, प्रत्येक चरण एक संदर्भ में संचित होता हैः उपयोगकर्ता अनुरोध, डेटा अन्वेषण, विश्लेषण, चार्ट पीढ़ी, सत्यापन और रिपोर्टिंग। Deep Insight समन्वयक, योजनाकार,Plan Reviewer पर्यवेक्षक और Tool Agents: कोडर, मान्यकर्ता, रिपोर्टर, ट्रैकर और लेखा परीक्षक के पदानुक्रम का उपयोग करके इससे बचा जाता है।

प्रत्येक विशेष एजेंट एक स्वतंत्र संदर्भ में काम करता है. यहां तक कि कोडर, जिसे सबसे अधिक जगह की आवश्यकता होती है, 25,000 टोकन कुल के तहत रहता है। एजेंट केवल उन सूचनाओं को प्राप्त करते हैं जिनकी उन्हें जरूरत होती है और पूरा होने का नोटिस और संक्षिप्त सारांश वापस देते हैं।

कुंजी साझा जानकारी को कम करना है। Deep Insight shared_state नामक एक पायथन शब्दकोश का उपयोग करता है जो केवल चार आइटम संग्रहीत करता हैः

  • संदेश: पिछले एजेंट का अंतिम संदेश, पूर्ण वार्तालाप इतिहास नहीं।
  • सुराग: प्रत्येक एजेंट से एकत्रित संपीड़ित सारांश।
  • full_plan: योजनाकार द्वारा उत्पन्न और ट्रैकर द्वारा अद्यतन की गई एक चेकलिस्ट।
  • इतिहास: एजेंट नामों और संदेशों का एक संक्षिप्त लॉग।

सुराग एक निश्चित CLUES_FORMAT का उपयोग करते हैं ताकि केवल संपीड़ित कोर परिणाम एजेंटों के बीच स्थानांतरित हो सकें। यह एंथ्रोपिक में वर्णित ऑर्केस्ट्रेटर-वर्कर पैटर्न का अनुसरण करता है We BuiltHow We Built हमारा मल्टीAgent Research System post पोस्ट, जहां एक प्रमुख एजेंट विशेष उप-एजेंट को प्रत्यायोजित करता है और प्रत्येक एजेंट अपने स्वयं के संदर्भ के भीतर काम करता है। Strands Agents SDK में एजेंट्स-एज़-टूल पैटर्न फ्रेमवर्क स्तर पर अलगाव प्रदान करता है.

Deep Insight explains how four context engineering layers are used in working code for production AI agents.

परत 2: संकेत प्रत्येक एजेंट छोड़ देता है क्या सीमा

अकेले अलगाव पर्याप्त नहीं है। यदि कोई एजेंट एक लंबी प्रतिक्रिया देता है, तो यह अभी भी पर्यवेक्षक के संदर्भ को बढ़ा सकता है। परत 2 आउटपुट को नियंत्रित करने के लिए संकेतों का उपयोग करता है।

Deep Insight प्रत्येक एजेंट के लिए स्पष्ट टोकन बजट निर्धारित करता है। कोडर 1,000 से 1,500 टोकन लौटाता है क्योंकि इसका विश्लेषण कोड फ़ाइलों में सहेजा जाता है, इसलिए एजेंट केवल स्थिति, पूर्ण कार्यों और अंतर्दृष्टि की रिपोर्ट करता है. सत्यापनकर्ता 800 टोकन देता है क्योंकि सत्यापन परिणाम citations.json पर सहेजे जाते हैं। रिपोर्टर 1,000 टोकन वापस करता है क्योंकि यह DOCX फाइल के रूप में रिपोर्ट उत्पन्न करता है और केवल परिणाम का सारांश देता है।

सभी एजेंट एक मानकीकृत प्रारूप का उपयोग करते हैंः स्थिति, Completed Tasks, Key Insights और Generated Files। यह पर्यवेक्षक को संदर्भ में एजेंट के पूर्ण तर्क इतिहास को खींचने के बिना कॉम्पैक्ट, अनुमानित अपडेट देता है।

Coder.s प्रॉम्प्ट भी एक स्व-निहित कोड दर्शन को लागू करता है। यह बताता है कि चर स्क्रिप्ट के बीच नहीं रहते हैं। प्रत्येक स्क्रिपट में सभी आयात और लोड डेटा सीधे शामिल होना चाहिए। इससे पिछले चरण से किसी चर का पुनः उपयोग करने के लिए संदर्भ में पिछली कोड रखने की आवश्यकता समाप्त हो जाती है।

पर्यवेक्षक के संकेत में एक पूर्णता नियम जोड़ा गया है: जब तक वर्तमान एजेंट अनुभाग में सभी चेकलिस्ट आइटम को पूरा नहीं किया जाता तब तक अगले एजेंट पर न जाएं। यह नियम प्रॉम्प्ट में रखा गया है क्योंकि निर्णय लेने के लिए कि क्या कोडर का काम समाप्त हो गया है, ट्रैकर अपडेट के साथ-साथ योजना की व्याख्या करना आवश्यक है, जिसे अकेले कोड में व्यक्त करना मुश्किल है।

एंथ्रोपिक्स [2Writing Effective Tools के लिए एजेंटों का पोस्ट सुझाव देता है कि उपकरण को एक संक्षिप्त या विस्तृत प्रतिक्रिया विकल्प दिया जाए। Deep Insight प्रत्येक एजेंट की सिस्टम प्रॉम्प्ट के माध्यम से, उसी विचार को एक स्तर ऊपर लागू करता है। एंथ्रॉपिक मार्गदर्शन भी एक मजबूत मॉडल और एक सरल संकेत के साथ शुरू करने की सिफारिश करता है, फिर मनाए गए विफलता मामलों के आधार पर विशिष्ट निर्देश जोड़ते हैं।

परत 3: उपकरण भारी सामग्री को फ़ाइलों में ले जाते हैं

आर्किटेक्चर और प्रॉम्प्ट्स संदर्भ प्रवाह को कम करते हैं, लेकिन वे सभी भारी काम नहीं हटा सकते। जब कोडर पायथन कोड की 100 पंक्तियां उत्पन्न करता है, तो वह कोड संदर्भ में प्रवेश कर सकता है यदि एजेंट को इसे संदेश के रूप में पास करना पड़ता है। यहां तक कि "संक्षिप्त उत्तर दें" निर्देशों के साथ भी कुछ कोड संक्षेप में नहीं लिखा जा सकता है।

Deep Insight explains how four context engineering layers are used in working code for production AI agents.

Deep Insight फ़ाइल-आधारित बाहरीकरण के साथ इसे हल करता है। नियम सरल हैः पॉइंटर को संदर्भ में रखें, वास्तविक डेटा फाइलों में रखें.

पारंपरिक दृष्टिकोण अलग फ़ाइल-लेखन और निष्पादित उपकरण का उपयोग करता है। यह प्रत्येक स्क्रिप्ट के लिए सीधे संदर्भ में 100 पंक्तियों को जोड़ सकता है, जो एक कार्य भर में 1,000 लाइनों पर जमा हो जाता है। फिक्स दो चरणों को एकल टूल में ढहाना है।

कोडर एजेंट write_and_execute_tool का उपयोग करता है. यह स्क्रिप्ट लिखता है, इसे चलाता है और केवल एक सारांश देता हैः कि 105 पंक्तियाँ लिखी गईं, निष्पादन सफल रहा, और पांच श्रेणियों का विश्लेषण पूरा हुआ। कोड फ़ाइल में रहता है, और सारांश की लगभग तीन पंक्तियां संदर्भ में रहती हैं। इस उदाहरण के आधार पर, उपकरण टोकन के लगभग 95 प्रतिशत बचाता है।

मांग पर कौशल लोड करना उसी बाहरीकरण विचार का एक और हिस्सा है। सिस्टम प्रॉम्प्ट में हर क्षमता को एक साथ ले जाने के बजाय, Deep Insight जरूरत पड़ने पर जो आवश्यक हो उसे लाता है, जिससे सिस्टम प्रोम्प्ट लगभग 97 प्रतिशत तक सिकुड़ जाता है।

परत 4: सत्यापन एजेंट और सुरक्षा उपाय लूप को बंद करते हैं

अंतिम परत उन त्रुटियों को संभालती है जो पहले तीन से बच जाती हैं। सत्यापन एजेंटों और स्वतंत्र सुरक्षा उपायों का उपयोग गलतियों को पकड़ने के लिए किया जाता है और इससे पहले कि वे बड़ी विफलताओं में बदल जाएं, संदर्भ अतिप्रवाह को रोकते हैं।

Deep Insight में, यह परत Validator और Auditor जैसी भूमिकाओं के माध्यम से काम करती है। वैलिडेटर सत्यापन परिणामों को citations.json पर सहेजता है और केवल एक सारांश देता है, साझा संदर्भ से बाहर साक्ष्य रखता है। इसलिए आर्किटेक्चर कार्य को अलग करता है, आउटपुट को संपीड़ित करता है , भारी सामग्री को बाहरी बनाता है, और स्वतंत्र रूप से परिणामों की जांच करता है।

यह बिल्डरों के लिए क्या बदलता है

व्यावहारिक प्रभाव कम मध्य-कार्य विफलता, कम पुरानी संदर्भ, कम लागत और एक चरण ब्रेक के बाद पूरी पाइपलाइन को फिर से चलाने की आवश्यकता है। उत्पादन बनाने वाली टीमों AI एजेंटों के लिए, संदेश केवल बड़ा मॉडल का उपयोग करना नहीं है। यह एक प्रणाली के रूप में संदर्भ डिजाइन करने के लिए हैः अलग जिम्मेदारियां, आउटपुट को प्रतिबंधित करें, खिड़की के बाहर भारी पेलोड ले जाएं, और जो बचा है उसे सत्यापित करें।

Deep Insight श्रृंखला इस काम को एक व्यापक उत्पादन पथ के हिस्से के रूप में फ्रेम करती है। पहली पोस्ट ने मल्टी-एजेंट सिस्टम में पांच मुख्य चुनौतियों को परिभाषित किया और दिखाया कि कैसे Strands Agents SDK, Amazon Bedrock और Bedrock AgentCore, और AWS Fargate समस्या की विभिन्न परतों का समाधान करते हैं। तीसरा पद विकास से उत्पादन तक चलेगा, Amazon Virtual Private Cloud पर एक सुरक्षित निजी नेटवर्क में एजेंटों की तैनाती और संचालन का मार्गदर्शन करेगा, जो वास्तविक दुनिया के कार्यों के लिए आवश्यक सब कुछ कवर करता है।

Comments (0)

  1. No comments yet. Be the first to share what worked for you.

Leave a comment

Comments are reviewed before they appear. Your email address is not published.