AI Agents के लिए Control Plane का निर्माण करने के लिए एक गाइड

मेटा विवरणः Towards Data Science पोस्ट में बताया गया है कि AI एजेंटों के लिए एक नियंत्रण विमान कैसे बनाया जाए, जिससे LLM को नौ व्यावहारिक चरणों के माध्यम से कार्य करने की अनुमति मिल सके।

टैगः AI एजेंट, नियंत्रण विमान, LLM अनुमतियाँ

विशेष रुप से प्रदर्शित छवि: (अंग्रेज़ी में) ">"</string> एक चमकदार नियंत्रण कक्ष का अमूर्त मैत्रीपूर्ण चित्रण, जो साधारण robot को एक छोटी कुंजी दे रहा है , कोई वास्तविक व्यक्ति नहीं, कोई लोगो नहीं, न ही पाठ।

Towards Data Science पर एक पोस्ट ने पहली बार "AI Agents के लिए Control Plane कैसे बनाएं" गाइड प्रकाशित किया, जो नौ-चरण की समस्या के रूप में कार्य करने के लिए एक LLM अनुमति देने का फ्रेम करता है। यह उन बिल्डरों, उत्पाद टीमों और ऑपरेटरों के लिए है जो चाहते हैं कि software एजेंट बिना किसी भाषा मॉडल को अनचेक किए गए कदम उठाने दिए कार्यों को पूरा करें। मुख्य विचार सरल हैः इससे पहले कि कोई एजेंट संदेश भेज सके, फ़ाइलें संपादित कर सके, उपकरण कॉल कर सके या बाहरी सिस्टम बदल सकें, टीम को AI एजेंट्स के लिए नियंत्रण विमान की आवश्यकता होती है जो तय करे कि क्या अनुमत है, किसकी समीक्षा की जरूरत है और क्या निषिद्ध है।

अब अनुमति क्यों मायने रखती है

LLM एक large language model : software है जो किसी प्रॉम्प्ट से टेक्स्ट या फैसलों की भविष्यवाणी करता है। जब वह मॉडल टूल से जुड़ा होता है, तो यह एजेंट बन जाता है। कोई एजेंट योजना बना सकता है, API को कॉल कर सकते हैं, फ़ाइल पढ़ सकता है या वर्कफ़्लो शुरू कर सकता है। यह उपयोगी है, लेकिन यह एक नया विफलता मोड भी बनाता है। मॉडल दुर्भावनापूर्ण नहीं हो सकता; यह केवल संदर्भ को गलत तरीके से पढ़ा जा सकेगा, मान लें कि इसका अधिकार है, या उस उपकरण का चयन करें जिसका उद्देश्य कभी भी उस कार्य के लिए नहीं था।

अनुच्छेद का शीर्षक महत्वपूर्ण है क्योंकि यह अनुमति को एक डिज़ाइन समस्या के रूप में मानता है, न कि एक त्वरित चाल। एक प्रणाली जो कार्य कर सकती है उसे प्राधिकरण परत की आवश्यकता होती है। इसके बिना, टीमें संकीर्ण सुविधा का परीक्षण करते समय गलती से मॉडल को व्यापक पहुंच दे सकती हैं। एक के साथ, वही मॉडल अधिक काम कर सकता है क्योंकि सीमाएं स्पष्ट हैं।

नियंत्रण विमान क्या करता है

एक नियंत्रण विमान एक प्रबंधन परत है जो यह तय करता है कि कोई एजेंट क्या कर सकता है, जब वह ऐसा कर सकते हैं और उस कार्रवाई की समीक्षा कैसे की जाती है। यह मॉडल के बाहर बैठता है। मॉडल किसी क्रिया का सुझाव देता है; नियंत्रण स्तर जांचता है कि क्या कार्य की अनुमति है या नहीं।

AI एजेंटों के लिए, नियंत्रण विमान आमतौर पर कई सवालों को संभालता हैः

• एजेंट कौन से उपकरण देख सकता है?
• यह किस डेटा स्रोत तक पहुंच सकता है?
• यह मनुष्य के बिना क्या कार्य कर सकता है?
• किन कार्यों को स्वीकृति की आवश्यकता होती है?
• कौन सी सीमाएं उन्मुक्त लूप को रोकती हैं?
• समीक्षा के लिए प्रयासों को कैसे दर्ज किया जाता है?

यह software सिस्टम में एक्सेस कंट्रोल के समान है, लेकिन अतिरिक्त जटिलता यह है कि अनुरोधकर्ता एक भाषा मॉडल है। इसका आउटपुट गलत होने पर भी धाराप्रवाह और आत्मविश्वासपूर्ण हो सकता है। नियंत्रण विमान प्रणाली को संदेह करने का स्थान देता है।

नौ कदम जो पाठक उम्मीद कर सकते हैं

प्रकाशित शीर्षक समस्या को नौ चरणों में व्यवस्थित करता है। चूंकि केवल शीर्षक यहां उपलब्ध है, इसलिए प्रत्येक चरण का सटीक शब्द पुनरुत्पादित नहीं किया जा सकता है. फिर भी, AI एजेंटों के लिए एक व्यावहारिक नौ-चरण नियंत्रण विमान आमतौर पर निम्नलिखित अनुक्रम को कवर करता हैः

1. कार्य सीमा को परिभाषित करें। लिखें कि एजेंट को क्या पूरा करना चाहिए और उसे क्या नहीं छूना चाहिए।
2. उपकरण और डेटा का चयन करें। एजेंट को केवल कार्य के लिए आवश्यक फ़ंक्शंस और फ़ाइलें दें.
3. क्रियाओं को जोखिम के अनुसार वर्गीकृत करें. लेखन, भुगतानों, संदेशों, विलोपन या बाहरी API कॉल से हानिरहित रीड अलग करें.
4. कम से कम विशेषाधिकार लागू करें. ऐसे क्रेडेंशियल्स का उपयोग करें जो केवल अनुमोदित कार्य कर सकते हैं, पूर्ण व्यवस्थापक खाता नहीं।
5. अनुमोदन द्वार जोड़ें. उन क्रियाओं के लिए मानव पुष्टि की आवश्यकता होती है जिन्हें पूर्ववत करना कठिन होता है या अन्य लोगों को प्रभावित करते हैं.
6. रनटाइम सीमा सेट करें. कैप रिट्रीट्स, tokens , खर्च, फ़ाइल आकार, या लूप को रोकने के लिए अनुरोध दर।
7. निर्णयों और परिणामों को लॉग करें। रिकॉर्ड करें कि मॉडल क्या चाहता था, नीति ने क्या अनुमति दी थी, और आगे क्या हुआ।
8. परीक्षण विफलता मामले. निषिद्ध कार्यों के लिए पूछने वाले संकेतों का प्रयास करें और जांचें कि नियंत्रण विमान उन्हें अवरुद्ध करता है।
9. समीक्षा और अद्यतन करें. एजेंट व्यवहार नए संकेतों, मॉडलों, उपकरणों और कार्यों के साथ बदलता है, इसलिए नीतियों की आवधिक समीक्षा की आवश्यकता होती है।

आम गलतियाँ

सबसे बड़ी गलती एक सेटिंग के रूप में अनुमति का इलाज कर रही है. नियंत्रण विमान को टूल एक्सेस, कार्रवाई नियमों, सीमाओं, लॉगिंग और समीक्षा की आवश्यकता होती है। एक अन्य त्रुटि प्रॉम्प्ट में जोखिम छिपाना है। प्रोम्प्ट सावधानी का सुझाव दे सकता है, लेकिन यह टूल कॉल को विश्वसनीय रूप से रोक नहीं सकता है। नीति कोड और अनुमतियों द्वारा लागू की जानी चाहिए।

टीम कभी-कभी एजेंटों को व्यापक क्रेडेंशियल भी देती हैं क्योंकि यह परीक्षण करना आसान होता है। इससे सुविधा की आवश्यकता से बड़ा विस्फोट त्रिज्या बनता है। अंत में, लॉगिंग अक्सर देर से जोड़ा जाता है। लॉग के बिना, एक टीम यह नहीं बता सकती कि क्या एजेंट ने सही तरीके से कार्य किया था, या नीति विफल हो गई थी, या कोई उपकरण अप्रत्याशित डेटा लौटाया था।

पाठकों के लिए, अगली चीज जो देखने की है वह एक जादुई मॉडल अद्यतन नहीं है। यह सक्षम उपकरणों के आसपास नीति परतों का प्रसार है। व्यावहारिक टेकआउट यह है कि LLM को कार्य नहीं करना चाहिए क्योंकि यह आश्वस्त है। इसे कार्रवाई करनी चाहिए क्योंकि एक नियंत्रण विमान ने इसके अनुरोध की जांच की है, निर्णय दर्ज किया है, और जब कार्रवाई मायने रखती है तो लूप में एक मानव रखा गया है।