एक साझा जेवी निर्णय परत का उपयोग करके गार्डरेल कोड को कम करना

मेटा विवरणः एक चरणबद्ध एजेंटिक वर्कफ़्लो निर्णय लेने को केंद्रीकृत रखता है जबकि अनुमोदित एजेंटों को कार्य करने देता है, जोखिम कम करता है और टीमों के लिए जवाबदेही स्पष्ट करता है।

टैगः एजेंटिक AI, कार्यप्रवाह डिजाइन, AI शासन, डेवलपर उपकरण

विशेष रुप से प्रदर्शित छवि: (अंग्रेज़ी में) ">"</string> कई निष्पादन लेनों का मार्गदर्शन करने वाली एक केंद्रीय व्याख्या परत का अमूर्त, मैत्रीपूर्ण चित्रण, जिसमें कोई वास्तविक व्यक्ति, लोगो या पाठ नहीं है।

Towards AI ने प्रकाशित किया है एक चरणबद्ध एजेंटिक वर्कफ़्लो जो निष्पादन प्राधिकरण को संरक्षित करते हुए व्याख्या को केंद्रीकृत करता है, 89 एक शीर्षक जो AI एजेंटों का उपयोग करने वाली टीमों के लिए एक व्यावहारिक पैटर्न की ओर इशारा करता है। यह विचार इंजीनियरों, उत्पाद प्रबंधकों, संचालन नेताओं और स्वचालन के लिए जिम्मेदार किसी भी व्यक्ति के लिए महत्वपूर्ण है क्योंकि एक चरणबद्ध एजेन्टिक कार्यप्रवाह दो कार्यों को अलग कर सकता है जो अक्सर एक साथ धुंधले होते हैंः निर्णय लेना कि क्या होना चाहिए और तय करना कि इसे होने की अनुमति किसको दी जाती है। पाठकों के लिए, मूल्य एक नया मॉडल बेंचमार्क या एकल software उपकरण नहीं है।

व्याख्या को निष्पादन से अलग क्यों किया जाए

कई AI एजेंट सेटअप में, एक मॉडल अनुरोध प्राप्त करता है, योजना बनाता है और फिर सीधे टूल को कॉल करता है। यह तेज़ हो सकता है, लेकिन यह छिपे हुए जोखिम भी पैदा कर सकता है। यदि मॉडल लक्ष्य की गलत समझ रखता है, गलत उपकरण चुनता है, या अनुमतियों को मान लेता है जो उसके पास नहीं हैं, तो सिस्टम ऐसी कार्रवाई कर सकती है जिसे किसी ने स्पष्ट रूप से मंजूरी नहीं दी थी।

वाक्यांश "केंद्रीय व्याख्या" से पता चलता है कि किसी कार्य का अर्थ एक नियंत्रित स्थान पर तय किया जाता है। वह स्थान लक्ष्य, बाधाओं, अनुमत डेटा और अपेक्षित परिणाम को परिभाषित करता है। यह उस एजेंट के लिए सच्चाई का एकमात्र स्रोत बन जाता है जिसे पूरा करना चाहिए।

निष्पादन प्राधिकरण को संरक्षित करना से पता चलता है कि कार्य करने की क्षमता सीमित रहती है। प्रत्येक एजेंट, मॉडल या चरण एक डेटाबेस बदलने, संदेश भेजने, धनवापसी अनुमोदित करने, कोड तैनात करने या ग्राहक रिकॉर्ड अपडेट करने में सक्षम नहीं होना चाहिए। निष्पादन अधिकार मनुष्यों, नीतियों या प्रणालियों द्वारा रखा जाता है जिन्हें स्पष्ट रूप से कार्रवाई करने की अनुमति दी जाती है।

यह अलगाव टीमों को एक बुनियादी प्रश्न का उत्तर देने में मदद करता हैः जब कोई एजेंट कार्य करता है तो कौन जिम्मेदार होता है? यदि व्याख्या और निष्पादन मिश्रित होते हैं, तो जिम्मेदारी संकेतों, उपकरणों और स्वचालित कॉल की श्रृंखला में गायब हो सकती है। अगर वे अलग-अलग हों, तो टीमें योजना का निरीक्षण कर सकती हैं इससे पहले कि वह कार्रवाई बन जाए और प्रत्येक चरण की शक्ति को सीमित करे।

चरणबद्ध कार्यप्रवाह कैसा दिख सकता है

मूल अंश में सभी तकनीकी विवरणों की सूची नहीं दी गई है, लेकिन शब्द एक सामान्य संरचना का समर्थन करते हैंः सेवन, व्याख्या, प्राधिकरण, निष्पादन और सत्यापन।

प्रवेश तब होता है जब कोई उपयोगकर्ता, अनुप्रयोग या प्रणाली एक अनुरोध प्रस्तुत करता है। यह अनुरोध प्राकृतिक भाषा लक्ष्य, टिकट, दस्तावेज़ परिवर्तन या समर्थन मामला हो सकता है। इस चरण में प्रश्न सरल हैः क्या पूछा जा रहा है?

व्याख्या वह जगह है जहां सिस्टम एक स्पष्ट योजना बनाता है। यह प्रासंगिक डेटा, आवश्यक चरणों, संभावित जोखिम और लापता जानकारी की पहचान कर सकता है। एक केंद्रीय व्याख्या परत नियमों, पिछले निर्णयों या सुरक्षा बाधाओं के खिलाफ अनुरोध की तुलना कर सकती है। लक्ष्य JUST उत्तर का उत्पादन करना नहीं है, बल्कि नियंत्रित समझ पैदा करना है।

प्राधिकरण वह कदम है जो निष्पादन अधिकार की रक्षा करता है। एजेंट कार्य करने से पहले, वर्कफ़्लो जांचता है कि क्या प्रस्तावित कार्रवाई की अनुमति है. उस जाँच में मानव अनुमोदन, एक नीति इंजन, एक अनुमति मॉडल या सीमित टूल स्कोप शामिल हो सकता है। यदि योजना जोखिमपूर्ण, अस्पष्ट या अनुमत सीमा के बाहर है, तो यह यहां रुक जाती है।

निष्पादन वह जगह है जहाँ अनुमोदित क्रिया होती है। एजेंट एक उपकरण को कॉल कर सकता है, रिकॉर्ड अपडेट कर सकते हैं, ड्राफ्ट बना सकते हैं या किसी अन्य प्रणाली को ट्रिगर कर सकते हैंः क्योंकि कार्रवाई सीमित है, वर्कफ़्लो इसे पूरी तरह से स्वायत्त प्रक्रिया की तुलना में संकीर्ण रख सकती है।

सत्यापन वह है जहां परिणामों की जांच की जाती है. क्या कार्रवाई पूरी हो गई? क्या इसने इच्छित वस्तु को प्रभावित किया था? क्या कोई दुष्प्रभाव था? परिणाम व्याख्या लक्ष्य से मेल खाता था? यह चरण स्वचालन को एक-तरफा कमांड से समीक्षा करने योग्य प्रक्रिया में बदल देता है।

इस पैटर्न के जोखिम

एक चरणबद्ध एजेंटिक कार्यप्रवाह उपयोगी है क्योंकि कई एजेंट विफलताएं प्राधिकरण से आती हैं, न कि JUST खुफिया। उपकरण के लिए व्यापक पहुंच दिए जाने पर एक मॉडल विश्वसनीय पाठ का उत्पादन करने में अच्छा हो सकता है लेकिन फिर भी असुरक्षित होता है।

सामान्य जोखिमों में उपकरण का दुरुपयोग, विशेषाधिकार वृद्धि, असंगत निर्णय और कमजोर ऑडिट ट्रेल शामिल हैं। यदि प्रत्येक एजेंट स्वतंत्र रूप से व्याख्या और निष्पादित कर सकता है, तो छोटी गलतियाँ बड़ी परिचालन समस्याएं बन सकती हैं। अगर व्याख्या परत केंद्रीकृत है, टीमों के पास नियमों का परीक्षण करने, निर्देशों को अपडेट करने और व्यवहार की निगरानी करने के लिए एक जगह है।

यह पैटर्न स्केल के साथ भी मदद करता है। जब AI एजेंट प्रदर्शन से उत्पादन में जाते हैं, तो टीमों को पूर्वानुमानित व्यवहार की आवश्यकता होती है। एक चरण-आधारित डिजाइन इस बारे में तर्क करना आसान बनाता है कि क्या गलत हो सकता है और क्या रोका जा सकता है। यह मौजूदा शासन प्रक्रियाओं जैसे एक्सेस कंट्रोल, परिवर्तन प्रबंधन और घटना समीक्षा के लिए एजेंटों को जोड़ना भी आसान बना सकता है.

गैर-विशेषज्ञों के लिए, व्यावहारिक टेकआउट यह है कि "अधिक स्वायत्त" हमेशा अधिक उपयोगी नहीं होता। एक उपयोगी एजेंट प्रणाली को अक्सर सीमाओं की आवश्यकता होती है। सवाल केवल यह नहीं है कि क्या एजेंट कार्य कर सकता है, लेकिन क्या संगठन वास्तव में जानता है कि एजेंट को क्या करने की अनुमति दी गई थी।

किन टीमों को अगले के लिए देखना चाहिए

शीर्षक एक एकल उत्पाद का वर्णन नहीं करता है, इसलिए टीमों को इसे एक निश्चित कार्यान्वयन गाइड के रूप में नहीं पढ़ना चाहिए। इसके बजाय, यह एक डिजाइन दिशा फ्रेम करता है। अगला प्रश्न यह है कि इसे वास्तविक वर्कफ़्लो पर कैसे लागू किया जाए।

टीमों को यह परिभाषित करना चाहिए कि उनके वातावरण में 'केंद्रीकृत व्याख्या' का क्या अर्थ है। क्या यह एक सेवा, नीति इंजन, मानव समीक्षा कतार या मॉडल गेटवे है? उन्हें यह भी परिभाषित करना होगा कि "निष्पादन प्राधिकरण" का क्या मतलब है। किन कार्यों के लिए अनुमोदन की आवश्यकता होती है और कौन से कार्यों को सुरक्षित रूप से स्वचालित किया जा सकता है?

एक अच्छा प्रारंभिक बिंदु प्रभाव के अनुसार कार्यों को वर्गीकृत करना है। कम जोखिम वाले कार्यों, जैसे कि सारांश का मसौदा तैयार करना या जानकारी प्राप्त करना, कम पर्यवेक्षण की आवश्यकता हो सकती है। उच्च-जोखिम वाली कार्रवाइयों, जैसे रिकॉर्ड हटाना, बाहरी संचार भेजना या उत्पादन प्रणालियों को बदलना, अधिक मजबूत प्राधिकरण की आवश्यकता पड़ सकती है.

एक अन्य महत्वपूर्ण प्रश्न अवलोकन है। यदि व्याख्या केंद्रीकृत है, तो लॉग को यह दिखाना चाहिए कि अनुरोध कैसे समझा गया था, क्या योजना प्रस्तावित की गई थी और कौन सी अनुमतियां दी गईं थीं। उस दृश्यता के बिना, वर्कफ़्लो पर भरोसा करना अभी भी मुश्किल हो सकता है।

चरणबद्ध एजेंटिक कार्यप्रवाह का वास्तविक मूल्य यह नहीं है कि एजेंट अधिक शक्तिशाली हो जाते हैं। यह है कि टीमें तय कर सकती हैं कि उन्हें कितनी शक्ति दी जाए, सीमाएं कहां रखी जाएं और स्वचालन चलाने पर जवाबदेही कैसे दिखाई दे।