ट्यूटोरियल

यह प्रैक्टिशनर गाइड एजेंटिक सिस्टम के लिए छह उन्नत आर्किटेक्चरल पैटर्न को कवर करता है।

छह एजेंटिक AI आर्किटेक्चर पैटर्न और संदर्भ इंजीनियरिंग उत्पादन-तैयार एजेंटों का मार्गदर्शन करती है जो उपकरण का उपयोग करते हैं, मेमोरी, स्केल और नियंत्रण लागत का प्रबंधन करते हैं।

यह प्रैक्टिशनर गाइड एजेंटिक सिस्टम के लिए छह उन्नत आर्किटेक्चरल पैटर्न को कवर करता है।

मुख्य जानकारी

  • उत्पादन के लिए तैयार AI एजेंट अकेले मॉडल की तुलना में वास्तुकला पर अधिक निर्भर करते हैं, विशेष रूप से वास्तविक दुनिया यातायात के तहत।
  • प्रत्येक एजेंट चार मुख्य घटकों से बना हैः LLM, उपकरण और क्रियाएं, योजना/नियंत्रण प्रवाह तथा स्मृति।
  • संदर्भ अभियांत्रिकी एजेंट व्यवहार को कुशल, किफायती और विश्वसनीय रखने के लिए आवश्यक है क्योंकि संदर्भ गतिशील रूप से बढ़ता है।
  • उच्च जोखिम या गैर-पढ़ने वाले कार्यों के लिए मानव-इन-द-लूप समीक्षा की आवश्यकता होती है क्योंकि LLMs स्वाभाविक रूप से अनिर्णायक होते हैं।
  • गाइड सरल एजेंट लूप से इंजीनियर मल्टी-एजेंट वर्कफ़्लो पर जाने पर जोर देता है, जिसमें रिएक्ट और अनुकूली रूटिंग जैसे पैटर्न शामिल हैं।

मेटा विवरणः छह एजेंटिक AI आर्किटेक्चर पैटर्न के लिए एक व्यावहारिक मार्गदर्शिका, रिएक्ट लूप से अनुकूली रूटिंग तक और क्यों संदर्भ इंजीनियरिंग उत्पादन की सफलता का फैसला करती है।

This Practitioner's Guide Covers Six Advanced Architectural Patterns for Agentic Systems.

टैगः AI, AI एजेंटों, संदर्भ इंजीनियरिंग, बहु-एजेंट कार्यप्रवाह, वास्तुकला

AI एजेंट वास्तुकला का प्रतिनिधित्व करने वाले कनेक्टेड नोड्स और फ्लोइंग पथों के सार चित्रण

यदि आप AI एजेंटों का निर्माण कर रहे हैं और सोच रहे हैं कि आपका प्रूफ ऑफ कॉन्सेप्ट डेमो में खूबसूरती से क्यों काम करता है लेकिन वास्तविक ट्रैफ़िक के तहत अलग हो जाता है, तो समस्या आमतौर पर मॉडल नहीं होती। यह इसके चारों ओर की वास्तुकला है। यह गाइड एजेंटिक सिस्टम बनाने के लिए छह विशिष्ट पैटर्न के माध्यम से चलता है, संदर्भ इंजीनियरिंग तकनीकों को समझाता है जो उन्हें सस्ती रखते हैं, और आपको बताते हैं जब प्रत्येक पैटर्न उत्पादन में आता है।

क्यों एजेंटों वार्तालाप AI के साथ मौजूद हैं

Conversational AI और एजेंटिक AI जनरेटिव AI के दो अलग-अलग मौलिक उपयोग बन गए हैं। अंतर मायने रखता हैः डेटा से खींची गई वार्तालाप अंतर्दृष्टि अक्सर अपने आप में पर्याप्त नहीं होती है। large language models योजना, तर्क और कार्य कर सकते हैं, और एजेंसियां उस LLM "मस्तिष्क" के चारों ओर लपेटी हुई तार्किक रचनाएं हैं। वे उपकरण का उपयोग करते हैं, बाहरी APIs से बात करते हैं , अपनी गलतियों को सही करते हैं और अन्य एजेंटों के साथ सहयोग करते हैं।

यह सहयोग कई उच्च आवृत्ति निर्णयों पर निर्भर करता हैः अगला कदम क्या होना चाहिए, कौन सा एजेंट इसे संभालता है, किस उपकरण को कॉल करना है और उपयोगकर्ता को जवाब देने के लिए पर्याप्त संदर्भ है या नहीं। यहां एक महत्वपूर्ण बदलाव कम लागत वाले कैलिब्रेटेड निर्णय मॉडल का आगमन है, जो टाइपसेफ के जेईवी जैसे System One-शैली दृष्टिकोण का पालन करते हैं। ये LLM से निर्धारक कार्यभार को स्थानांतरित करते हैं, जिससे बड़ा मॉडल पूरी तरह से गहरे तर्क और संश्लेषण पर ध्यान केंद्रित करने के लिए स्वतंत्र हो जाता है।

उद्योग भारी इंजीनियरिंग मल्टी-एजेंट वर्कफ़्लो और प्रतिबंधित वास्तुकला की ओर सरल एकल-एजेन्ट लूप से भी दूर जा रहा है। एक एजेंट को प्रूफ-ऑफ-कॉन्सेप्ट से विश्वसनीय, उत्पादन के लिए तैयार एंटरप्राइज़ वर्कफ़्लोज़ में लाने का मतलब है कि इसे स्केलेबिलिटी, प्रतिक्रियाशीलता और लागत प्रभावकारिता पर योग्य बनाना।

किसी भी एजेंट के चार स्तंभ

आर्किटेक्चर की तुलना करने से पहले, यह परिभाषित करने में मदद करता है कि प्रत्येक एजेंट क्या बनाया गया है।

कोर LLM (तर्क इंजन) । यह मौलिक मॉडल है जो तर्क को ऑर्केस्ट्रेट करता है, जैसे कि GPT-5 , Claude 5.5 सोनेट या लामा -4. एजेंटिक सिस्टम में टूल कॉलिंग (जिसे फ़ंक्शन कॉल भी कहा जाता है) के लिए देशी समर्थन महत्वपूर्ण है।

उपकरण और क्रियाएँ। ये निष्पादन योग्य फ़ंक्शंस हैं जिन्हें एजेंट कॉल कर सकता है, जो API रैपर जैसे ∀search_web▽, `query_database□ और △send_ email □ से लेकर कोड इंटरप्रिटर तक होते हैं जो सैंडबॉक्स में Python स्क्रिप्ट चलाते हैं।

योजना और नियंत्रण प्रवाह। यह कैसे एजेंट तय करता है कि आगे क्या करना है. यह कठोर हो सकता है, एक राज्य मशीन की तरह या निर्देशित acyclic ग्राफ, या तरल के रूप में, एक खुले अंत तर्क लूप की तरह।

स्मृति। यह प्रणाली की जानकारी को चरणों और परस्पर क्रियाओं में बनाए रखने की क्षमता है, जो अल्पकालिक कार्यशील स्मृति (सक्रिय संकेत विंडो) और दीर्घकालिक एपिसोडिक मेमोरी (पिछली बातचीत के वेक्टर स्टोर) दोनों को कवर करती है।

संदर्भ इंजीनियरिंगः सफलता का गुप्त मानदंड

एजेंटिक प्रणालियों में, संदर्भ इंजीनियरिंग उत्पादन तत्परता के लिए एक प्रमुख मानदंड है। पारंपरिक संकेतों में स्थिर संदर्भ होता है। एक एजेंट का संदर्भ अत्यधिक गतिशील होता है. जैसा कि यह कार्य करता है, यह अवलोकन, त्रुटियों और मध्यवर्ती विचारों को जमा करता है। प्रत्येक निरीक्षण को प्रॉम्प्ट और context window पर जोड़ें, विलंबता और लागत बढ़ाएं। इससे भी बदतर, LLM पाठ के बहुत बड़े ब्लॉक के बीच में दफन किए गए बारीक तथ्यों का ट्रैक खो सकता है, जो गलत या अपूर्ण प्रतिक्रियाओं का उत्पादन कर सकता है।

This Practitioner's Guide Covers Six Advanced Architectural Patterns for Agentic Systems.

कई तकनीकें इसे नियंत्रण में रखती हैंः

राज्य प्रक्षेपण केवल वर्तमान चरण के लिए सख्ती से आवश्यक संदर्भ इंजेक्ट करें। यदि कोई एजेंट अनुसंधान से लेखन में स्थानांतरित हो गया है, तो कच्चे शोध लॉग को सक्रिय संदर्भ छोड़ देना चाहिए।

स्मृति काटना और सारांश। उन्हें जोड़ने से पहले पिछले चरणों को संपीड़ित करने के लिए द्वितीयक LLM कॉल, अक्सर छोटे और सस्ते मॉडल जैसे जीपीटी-मिनी का उपयोग करें। एक विशिष्ट निर्देशः अंतिम 5 खोज परिणामों को प्रमुख तथ्यों में सारांशित करें।

संरचित स्क्रैचपैड LLM को निर्धारित JSON फ़ील्ड या XML टैग में मध्यवर्ती तर्क लिखने के लिए प्रेरित करें, जैसे `<विचार> मैं API डॉक्स की जाँच करनी चाहिए <सोचा>इन्हें पार्स किया जा सकता है और बाद में स्थान बचाने के लिए फ़िल्टर कर सकते हैं।

सिमेंटिक मेमोरी रिकवरी। vector database के रूप में पिछले एजेंट क्रियाओं का इलाज करें. पूरे वार्तालाप इतिहास को लोड करने के बजाय, एजेंट केवल वर्तमान बाधा से अर्थ संबंधी प्रासंगिक अतीत की कार्रवाइयों को पुनः प्राप्त करता है.

त्वरित कैशिंग. Anthropic और OpenAI जैसे प्रदाताओं द्वारा पेश किया जाता है। जटिल एजेंटिक प्रणालियों में, सिस्टम प्रॉम्प्ट और टूल परिभाषाएं आसानी से 5,000 tokens को पार कर सकती हैं, फिर भी वे स्थिर निर्देश हैं जो सिस्टम के जीवनचक्र के दौरान कभी नहीं बदलते हैं। स्टैटिक सिस्टम इंस्ट्रक्शंस को context window के शीर्ष पर रखकर, प्रदाता पूर्व-गणित ध्यान राज्यों को एक कुंजी-मूल्य (केवी) कैश में कैश करते हैं। जब एजेंट 10 बार लूप करता है, तो आप केवल नए जोड़ने वाले अवलोकनों के लिए भुगतान करते हैं, जिससे अनुमान लागत में भारी कटौती हो सकती है।

नियंत्रण तंत्र के रूप में मानव-लूप

एंटरप्राइज़ एप्लिकेशन बिना पर्यवेक्षण के निष्पादित करने के लिए स्वायत्त एजेंटों पर भरोसा नहीं कर सकते हैं। LLMs स्वाभाविक रूप से गैर-निर्णायक है, इसलिए जो कुछ भी पढ़ने का ऑपरेशन नहीं है वह अवांछनीय या हानिकारक हो सकता है। एक SQL तालिका को छोड़ना, भुगतान अधिकृत करना, या क्लाइंट को ईमेल करना सभी इस श्रेणी में आते हैं। मानव-इन-द-लूप (एचआईटीएल) एक नियंत्रण प्रवाह तंत्र है जहां एजेंट अपनी निष्पादन स्थिति को रोकता है और मानव समीक्षक की प्रतीक्षा करता है।

लैंगग्राफ जैसे स्टेट ग्राफ़ कार्यान्वयन में, ∀send_ email _tool` जैसे विशिष्ट टूल को लागू करने से आलेख बाधित हो जाता है। राज्य एक डेटाबेस और निष्पादन स्टॉप के लिए क्रमबद्ध होता है। एक मानव UI में ड्राफ्ट किए गए email , यदि आवश्यक हो तो इसे संपादित करता है, और अनुमोदन पर क्लिक करता है। ऑर्केस्ट्रेटर तब अनुमोदित स्थिति के साथ रेखाचित्र निष्पादन फिर से शुरू करता है.

पैटर्न 1: मानक ReAct लूप

ReAct (Reason plus Act) पैटर्न एजेंटिक वर्कफ़्लोज़ का मौलिक बिल्डिंग ब्लॉक है। LLM सोचने के बारे में सोचता है कि क्या करना है, उपकरणों को कॉल करके कार्य करना और परिणामों का अवलोकन करना, फिर परिणाम और लक्ष्य के लिए इसकी प्रासंगिकता पर फिर से सोचना।

एजेंट को अपना व्यक्तित्व, उपलब्ध उपकरण और नियमों का वर्णन करते हुए एक सिस्टम प्रॉम्प्ट प्राप्त होता है। जब कोई उपयोगकर्ता कार्य प्रदान करता है, तो एजेंट एक लूप में प्रवेश करता है। प्रत्येक पुनरावृत्ति अपने तर्क की व्याख्या करने वाले विचार को आउटपुट करती है, इसके बाद एक क्रिया होती है, जो कि टूल कॉल है। ऑर्केस्ट्रेशन परत कार्रवाई को रोकती है, टूल निष्पादित करती है और अवलोकन LLM पर लौटा देती है। यह तब तक जारी रहता है जब तक वह अंतिम प्रतिक्रिया के लिए पर्याप्त जानकारी तय नहीं कर लेता।

यहां एक उपयोगी संदर्भ इंजीनियरिंग कदम एजेंट स्क्रैचपैड का प्रबंधन कर रहा है। जैसे-जैसे लूप आगे बढ़ता है, संकेत रैखिक रूप से बढ़ता हैः सिस्टम प्रॉम्प्ट, प्लस यूजर क्वेरी, प्लस विचार 1, कार्रवाई 1 और अवलोकन 1, आदि। फुलाव को रोकने के लिए, अवलोकन ट्रंकेशन लागू करें। यदि कोई टूल एक बड़ा HTML दस्तावेज़ देता है, तो ऑर्केस्ट्रेशन लेयर इसे वापस फ़ीड करने से पहले इसे काट देना चाहिए या सारांश स्क्रिप्ट चलाना चाहिए। अन्यथा एकल वेब खोज context window को अभिभूत कर सकती है।

This Practitioner's Guide Covers Six Advanced Architectural Patterns for Agentic Systems.

ताकत लचीलापन और त्रुटि वसूली है। रिएक्ट अप्रत्याशित कार्यों को संभालता है क्योंकि समाधान पथ हार्डकोडेड नहीं होता है, और जब कोई उपकरण 404 त्रुटि जैसे कुछ के साथ विफल हो जाता है, तो त्रुटि LLM पर वापस आती है, जो एक अलग URL की कोशिश करके इसके चारों ओर तर्क कर सकता है , मापदंडों को सही करना, या किसी अन्य टूल में गिरना।

कमजोरियां विलंबता और लागत हैं। एक एकल क्वेरी के लिए 10 अनुक्रमिक LLM कॉल की आवश्यकता हो सकती है। यहां तक कि शीघ्र कैशिंग के साथ भी, इसमें समय लगता है और महत्वपूर्ण tokens का उपभोग होता है। अत्यधिक जटिल कार्यों के लिए, एजेंट अपने मूल लक्ष्य को भूल सकता है, अप्रासंगिक टूल कॉल्स की श्रृंखला में प्रवेश कर सकता है या टूटे हुए उपकरण पर अंतहीन लूप कर सकते हैं।

ReAct ओपन-एंडेड, अनुसंधान उन्मुख कार्यों के लिए उपयुक्त है जहां चरणों का सटीक अनुक्रम पहले से ज्ञात नहीं हो सकता हैः डेटा विश्लेषण, डीप-डाइव वेब रिसर्च, या एक अलग सैंडबॉक्स में डिबगिंग कोड। यह आम तौर पर निर्धारक, कम विलंबता वाले, उपयोगकर्ता-उन्मुख चैट अनुप्रयोगों के लिए अनुशंसित नहीं है जहाँ लोग त्वरित प्रतिक्रियाओं की उम्मीद करते हैं।

पैटर्न 2: अनुक्रमिक बहु-एजेंट कार्यप्रवाह

जब कोई कार्य एक ReAct एजेंट के लिए विश्वसनीय रूप से संभालने के लिए बहुत जटिल होता है, तो इसे तोड़ दें। अनुक्रमिक मल्टी-एजेंट वर्कफ़्लो एक फैक्ट्री असेंबली लाइन है। एक सुपर एजेंट को एक बार में सब कुछ करने के बजाय, विशेष एजेंटों को चेन किया जाता है, जो अगले संरचित इनपुट के रूप में आउटपुट पास करते हैं।

अनुक्रम में प्रत्येक एजेंट के पास एक केंद्रित व्यक्तित्व, उपकरणों का सीमित सेट और एक बहुत ही विशिष्ट context window होता है। एक सामान्य तीन-चरण श्रृंखला इस तरह दिखती है। शोधकर्ता खोज उपकरण का उपयोग करके कच्चे डेटा एकत्र करता है और वेब पृष्ठों को स्क्रैप करता है, एक कच्चा दस्तावेज संकलित करता है। विश्लेषक दस्तावेज़ प्राप्त करता है , डेटा को संसाधित करते हैं, संख्यात्मक गणना अक्सर Python कोड लिखकर निष्पादित करते हैं और प्रमुख मैट्रिक्स निकालते हैं। लेखक उन मीट्रिक लेता है और उन्हें अंतिम, क्लाइंट-तैयार रिपोर्ट में प्रारूप देता है।

यह वास्तुकला राज्य प्रक्षेपण के माध्यम से संदर्भ इंजीनियरिंग का प्रदर्शन करती है। लेखक एजेंट को शोधकर्ता द्वारा स्क्रैप किए गए 50 वेब पृष्ठों को देखने की आवश्यकता नहीं होती है, न ही विश्लेषक ने एक कामकाजी Python स्क्रिप्ट लिखने के लिए चार प्रयास किए हैं। इसे केवल अंतिम विश्लेषणात्मक संक्षिप्त प्राप्त होता है। इस तरह से संदर्भ खिड़कियों को अलग करना "मध्य में खो जाने" समस्या को रोकता है और token उपयोग को काफी कम कर देता है। कार्यान्वयन आमतौर पर लैंगग्राफ जैसे स्टेट ग्राफ़ का उपयोग करता है, नोड्स के बीच एक सख्त स्टेट ऑब्जेक्ट पास करते हुए।

लाभ विश्वसनीयता, token दक्षता और डिबगिंग हैं। विशिष्ट संकेत सामान्य सब कुछ करने वाले संकेतों की तुलना में काफी उच्च गुणवत्ता के परिणाम देते हैं, और आप शोध के लिए सस्ते मॉडल का उपयोग करके व्यक्तिगत रूप से तापमान और मॉडल आकार को ट्यून कर सकते हैं और विश्लेषण के लिए एक महंगा है। चूंकि प्रत्येक चरण अलग-थलग है, इसलिए आप ठीक से निर्धारित कर सकते हैंः कौन सा एजेंट विफल हो गया और बाद में फिर से शुरू होने के लिए प्रत्येक नोड के बाद चेकपॉइंट राज्य।

सीमा सख्त रैखिकता है. यह उस मामले को संभालना मुश्किल है जहां लेखक को पता चलता है कि शोधकर्ता कुछ महत्वपूर्ण चूक गया और वर्कफ़्लो को पीछे की ओर जाने की आवश्यकता है। राज्य ग्राफ में चक्र जोड़े जा सकते हैं, लेकिन वे वास्तुकला को जटिल बनाते हैं और अनंत लूप का जोखिम उठाते हैं।

अच्छी तरह से परिभाषित, बहु-चरण पाइपलाइनों के लिए अनुक्रमिक वर्कफ़्लो का उपयोग करेंः सामग्री निर्माण, डेटा प्रोसेसिंग, ईटीएल कार्य, या ऐसा कुछ भी जो एक पारंपरिक मानव असेंबली लाइन की नकल करता है जैसे ड्राफ्टिंग, संपादन, स्वरूपण और प्रकाशन।

पैटर्न 3: अनुकूली router एजेंट

प्रत्येक क्वेरी का उत्तर एक रैखिक कार्यप्रवाह द्वारा अच्छी तरह से नहीं दिया जा सकता है। अनुकूली router एजेंटिक प्रणाली को खुले अंत समस्या समाधान के बजाय एक बुद्धिमान ट्रीएज सिस्टम के रूप में मानता है। यह उपयोगकर्ता इरादे का विश्लेषण करता है और उस उद्देश्य के लिए विशेष उप-पाइपलाइन निष्पादन को मार्ग देता है।

router एजेंट आम तौर पर एक तेज़, कैलिब्रेटेड LLM जैसे कि GPT-मिनी या Claude Haiku, या गैर-ऑटोरेग्रेसिव JEV मॉडल है। यह उपयोगकर्ता क्वेरी और उपलब्ध पाइपलाइनों की सूची प्राप्त करता है, उदाहरण के लिए `technical_support`, ∀billing_inquiry`, और ゙general_escalation`. इसका एकमात्र काम इरादा वर्गीकरण और इकाई निष्कर्षण है, जो संरचित JSON निर्णय को आउटपुट करता है। एक बार जब वह निर्णय लिया जाता है, तो router का काम किया जाता है और पारंपरिक निर्धारक कोड ले लेता है।

एक क्वेरी भी मिश्रित इरादे, दोनों तकनीकी और बिलिंग ले जा सकता है। उस मामले में, कई पाइपलाइन समानांतर रूप से निष्पादित होती हैं और उनके आउटपुट को संश्लेषण चरण में जोड़ा जाता है।

Comments (0)

  1. No comments yet. Be the first to share what worked for you.

Leave a comment

Comments are reviewed before they appear. Your email address is not published.