AI एजेंटों को नियंत्रित करने के लिए एक गाइड

मेटा विवरण: यह लेख बताता है कि AI एजेंटों को नियंत्रित करने में परिवर्तन क्यों होता है जब टीमें एक गार्ड एजेंट से फ्लीट में जाती हैं, जो Towards Data Science पोस्ट के आधार पर होती है।

टैगः #AIagents, ं ी . ास के साथ। ् ेम. ।#agentgovernance, ं ी . ास के साथ। ् ेम. ।#multiagentsystems, ं ी . ास के साथ। ् ेम. ।#TowardsDataScience

विशेष रुप से प्रदर्शित छवि: शासन मार्गों द्वारा जुड़े कई एजेंट नोड्स का एक अमूर्त, मैत्रीपूर्ण चित्रण, जिसमें कोई वास्तविक लोग नहीं हैं, कोई लोगो और कोई पाठ नहीं है।

AI प्रणालियों के निर्माण या पर्यवेक्षण करने वाली टीमों के लिए, पोस्ट शीर्षक How to Govern AI Agents 89 पर पहली बार दिखाई दिया। इसकी रूपरेखा, एक एजेंट की सुरक्षा से लेकर बेड़े को चलाने तक, 89890001 एजेंटों के शासन के कार्य के बारे में सोचने का एक स्पष्ट तरीका देता हैः केवल एक सहायक को देखना नहीं है, बल्कि कई अर्ध-स्वायत्त प्रणालियों का समन्वय करना जो अलग-अलग तरीकों से कार्य कर सकते हैं, प्रत्यायोजित और विफल हो सकते हैं।

आपूर्ति की गई सामग्री में लेखक, प्रकाशन तिथि, मॉडल का नाम, उपकरण, डेटासेट, मूल्य या बेंचमार्क स्कोर सूचीबद्ध नहीं है। इसलिए उपयोगी टेकवे एक विशिष्ट नुस्खा नहीं है; यह पैमाने में परिवर्तन है कि शीर्षक इंगित करता है। एजेंटों के साथ प्रयोग करने वाली टीमों के लिए, वह पैमाना बदलता है क्योंकि नियंत्रण जो एक एजेंट के लिए पर्याप्त महसूस करते हैं वे पतले, भंगुर या भ्रामक हो सकते हैं जब एजेंट मिलकर काम करना शुरू कर देते हैं।

एकल-एजेंट जांच से लेकर बेड़े के स्तर पर नियंत्रण तक

एक एकल AI एजेंट का निरीक्षण करना आमतौर पर आसान होता है। इसके पास एक कार्य, एक वार्तालाप इतिहास, अनुमतियों का एक सेट और एक विफलता सतह होती है। एक टीम अपने संकेतों की समीक्षा कर सकती है, अपनी कार्रवाइयों को लॉग इन करती है, उन उपकरणों को सीमित करती है जिन्हें वह कॉल कर सकता है, और यह तय करता है कि किसी मानव को आउटपुट को कब मंजूरी देनी चाहिए। यह दृष्टिकोण अभी भी उपयोगी है, लेकिन यह एक छोटे विस्फोट त्रिज्या को मानता हैः यदि कोई एजेंट बुरी तरह से व्यवहार करता है, तो क्षति आम तौर पर स्थानीयकृत होती है.

एक बेड़ा उस तस्वीर को बदल देता है। अधिक एजेंटों का मतलब अधिक वार्तालाप, अधिक टूल कॉल, अधिक हैंडऑफ और एक कमजोर धारणा के प्रसार के लिए अधिक तरीके होते हैं। वाक्यांश "एक बेड़े को चलाने" से पता चलता है कि पर्यवेक्षण एक एकल अंत बिंदु की रक्षा करने के बारे में कम हो जाता है और कई गतिशील भागों में दिशा निर्धारित करने पर अधिक होता है। लक्ष्य न केवल बुरे व्यवहार को रोकना है, बल्कि समूह को साझा उद्देश्य, नीति सेट और परिचालन सीमा के साथ संरेखित रखना है।

क्यों कई एजेंट शासन बदलते हैं

शासन का अर्थ है नियम, जांच और रिकॉर्ड जो एक प्रणाली को जवाबदेह बनाए रखते हैं। रोजमर्रा की शर्तों में, यह इस तरह के सवालों का जवाब देता हैः कौन क्या डेटा देख सकता है, किन कार्यों की अनुमति है, क्या अनुमोदित किया जाना चाहिए, क्या लॉग किया जाता है, और जब कुछ गलत हो जाता है तो जिम्मेदार कौन होता है?

जब एजेंट अकेले काम करते हैं, तो उन उत्तरों को एक भूमिका के आसपास लिखा जा सकता है।जब एजेंट फ्लीट के रूप में काम कर रहे होते हैं, वे नए प्रश्न बनाते हैं। यदि एक एजेंट दूसरे पर कार्यभार सौंपता है, तो क्या दूसरा एजेंट पहले एजेंट की अनुमतियों का वारिस होता है? अगर दो एजेंट एक ही रिकॉर्ड अपडेट करते हैं तो क्रम कैसे व्यवस्थित किया जाता है? यदि कोई आउटपुट सही दिखता है लेकिन हेडऑफ्स की श्रृंखला से आया था, तो टीम यह पता लगा सकती है कि निर्णय कहां लिया गया था? यदि किसी एजेंट को हटा दिया जाए, नाम बदला जाए या पुनः कॉन्फ़िगर किया जाए, तो निर्भर एजेंट चुपचाप या जोर-शोर से विफल हो जाते हैं?

ये केवल तकनीकी कष्टप्रदता नहीं हैं. वे शासन की समस्याएं हैं क्योंकि वे विश्वास, जवाबदेही और सुरक्षा को प्रभावित करते हैं। जितना बड़ा बेड़ा होता है, उतनी ही अधिक संभावना होती है कि एक डेमो के मुकाबले उत्पादन में सिस्टम अलग तरह से व्यवहार करेगा। एकल-एजेंट परीक्षण नियंत्रित दिखाई दे सकता है क्योंकि वातावरण सरल है। मल्टी-एजेन्ट टेस्ट नियंत्रित दिख सकते हैं क्योंकि टीम बारीकी से देख रही है। कठिन सवाल यह है कि जब बेड़े लगातार मानव ध्यान के बिना काम करता रहता है तो क्या होता है?

किन टीमों को देखना चाहिए

लेख का शीर्षक एक ढांचा निर्दिष्ट नहीं करता है, इसलिए टीमों को सार्वभौमिक चेकलिस्ट नहीं माननी चाहिए। फिर भी, एक एजेंट से बेड़े में स्थानांतरण निरीक्षण करने के लिए कई व्यावहारिक क्षेत्रों का सुझाव देता है।

सबसे पहले, अनुमतियों को सीमाओं की आवश्यकता होती है। प्रत्येक एजेंट के पास केवल वही उपकरण और डेटा होना चाहिए जो उसे अपने काम के लिए आवश्यक हो. एक कोड एजेंट, ग्राहक-सहायता एजेंट और रिपोर्टिंग एजेंट सभी के पास एक्सेस का समान स्तर नहीं होना चाहिए सिर्फ इसलिए कि वे एक ही प्लेटफॉर्म पर चलते हैं।

दूसरा, लॉग को निरंतरता की आवश्यकता होती है. यदि कोई क्रिया कई एजेंटों के माध्यम से चलती है, तो रिकॉर्ड में श्रृंखला दिखानी चाहिए, न कि केवल अंतिम आउटपुट। इसके बिना, डिबगिंग अनुमान बन जाता है और जिम्मेदारी अस्पष्ट हो जाती है।

तीसरा, मानव समीक्षा के लिए एक ट्रिगर की आवश्यकता होती है। कुछ क्रियाएं स्वचालित हो सकती हैं, लेकिन अन्य को अनुमोदन के लिए रुकना चाहिए, विशेष रूप से जब वे पैसे, व्यक्तिगत डेटा, बाहरी प्रणालियों या अपरिवर्तनीय परिवर्तनों को छूते हैं।

चौथा, नीति को संस्करण की आवश्यकता होती है. संकेत, गार्डरेल और रूटिंग नियम बदल सकते हैं। टीमों को यह जानने की जरूरत है कि जब कोई एजेंट कार्य करता था तो कौन सा संस्करण सक्रिय था। अन्यथा, बाद में एक फिक्स इतिहास को मिटा सकता है जो पिछली विफलता की व्याख्या करता है।

पाठकों के लिए इसका क्या अर्थ है

बिल्डरों के लिए, हेडलाइन अति आत्मविश्वास से चेतावनी है। एक एजेंट जो कुछ पर्यवेक्षित परीक्षण पास करता है वह एक बेड़े के समान नहीं है जिसे दैनिक संचालन में शासित किया जा सकता है। प्रबंधकों और विश्लेषकों के लिए यह एक अनुस्मारक है कि AI शासन एक परिचालन अनुशासन बन रहा है, न कि केवल अनुपालन दस्तावेज। सामान्य पाठकों के लिये, यह संकेत देता है कि दिलचस्प प्रश्न "क्या यह एजेंट कार्य कर सकता है? "से" क्या कोई संगठन कई एजेंटों को सही कार्यों, सुरक्षित रूप से और स्पष्ट रूप से पर्याप्त तरीके से कर सकते हैं?

स्रोत सामग्री संक्षिप्त है, इसलिए लेख एक नामित विधि या प्रदर्शन परिणाम का खुलासा नहीं करता है। इसका मूल्य फ्रेमिंग है। जैसे-जैसे अधिक टीमें गार्ड किए गए एकल एजेंटों से बेड़े की ओर बढ़ती हैं, शासन परत स्वयं एजेंट के रूप में महत्वपूर्ण हो जाएगी। इस विचार को लागू करने वाले पाठकों को अपनी वर्तमान एजेंट सूची को मैप करके शुरू करना चाहिए, यह पहचानना चाहिए कि अनुमतियां कहां बहुत व्यापक हैं और परीक्षण करें कि क्या हेन्डऑफ ऑडिट के लिए पर्याप्त दिखाई दे रहे हैं।