अवतार इंटेलिजेंस लगातार व्यक्तिगत एजेंटों का उपयोग करके मानव एजेंसी का विस्तार करता है
Avatar Intelligence स्थायी व्यक्तिगत एजेंटों को सुरक्षित प्रत्यायोजन, पर्यवेक्षण और विस्तारित मानव एजेंसी के लिए उपकरण के रूप में फ्रेम करता है।
मुख्य जानकारी
- लेख 89890000 89 को लगातार व्यक्तिगत AI एजेंटों के लिए एक प्रतिमान के रूप में प्रस्तावित करता है जो समय के साथ उपयोगकर्ताओं के लक्ष्यों, मूल्यों और बाधाओं का प्रतिनिधित्व करते हैं, जिसका उद्देश्य इसे बदलने के बजाय मानव एजेंसी को बढ़ाना है।
- इसमें यह मूल्यांकन करने के लिए Agentic Oversight Index का परिचय दिया गया है कि क्या कोई एजेंट उपयोगकर्ता के पर्यवेक्षण बोझ को कम करता है, क्योंकि इससे नई जाँच, सुधार और अनुमोदन कार्य पैदा होता है।
- फ्रेमवर्क मानव-निर्देशित निष्पादन से प्रत्यायोजित स्वायत्तता तक एक परिपक्वता पथ का वर्णन करता है, जहां एजेंट केवल उपयोगकर्ताओं द्वारा स्पष्ट रूप से अधिकृत डोमेन के भीतर आवर्ती निर्णय लेते हैं।
- विश्वसनीय व्यक्तिगत एजेंटों के लिए तीन प्रमुख अनुसंधान प्रगति की आवश्यकता होती हैः संदर्भ में निरंतर वैयक्तिकरण, Rehearsal Engineering के माध्यम से उपयोगकर्ता स्थित सुधार और सुरक्षा तंत्र जिसमें जवाबदेही और उपयोगकर्ता का सहारा शामिल है।
- मुख्य लाभ लक्ष्य निर्दिष्ट करने, अस्पष्टता को हल करने और परिणामों की पुष्टि करने में कम प्रयास है जबकि परिणामी निर्णयों पर मानव नियंत्रण बनाए रखा जाता है।
एक शोध स्थिति का कहना है कि व्यक्तिगत AI एजेंटों में प्रगति को इस बात से मापा जाना चाहिए कि वे मानव एजेंसी को कितनी प्रभावी ढंग से बढ़ा सकते हैं, न कि वे अकेले कितना काम कर सकते हैं। यह Avatar Intelligence के लिए एक प्रतिमान के रूप में प्रस्तावित करता है जो निरंतर निर्णय प्रत्यायोजन के माध्यम से उपयोगकर्ताओं के लक्ष्यों, मूल्यों और बाधाओं का प्रतिनिधित्व करते हैं। उपयोगकर्ताओं के लिए, मुख्य वादा लक्ष्य निर्दिष्ट करने, अस्पष्टता को हल करने और परिणामों की जांच करने में कम प्रयास है, जबकि परिणामी फैसलों पर नियंत्रण व्यक्ति के साथ रहता है।
मूल्य, लागत और पर्यवेक्षण को मापना
फ्रेमवर्क Agentic Oversight Index को एजेंट-साइड परिचालन लागत और मानव पर्यवेक्षण बोझ के खिलाफ वितरित मूल्य की तुलना करने के तरीके के रूप में पेश करता है। इस सूचकांक का उद्देश्य एक व्यावहारिक प्रश्न का उत्तर देना हैः क्या एजेंट उपयोगकर्ता के नियमित निरीक्षण को कम कर रहा है, या यह आउटपुट की जांच, सुधार और अनुमोदन करके नया काम बना रहा है?
ज़िम्मेदारी से अधिकार सौंपने तक
यह स्थिति मानव-निर्देशित निष्पादन से लेकर प्रत्यायोजित डोमेन के भीतर स्वायत्त संचालन तक एक परिपक्वता पथ का वर्णन करती है। प्रारंभिक चरण में, उपयोगकर्ता लक्ष्य देता है, एजेंट निर्देशों को पूरा करता है, और उपयोगकर्ता अस्पष्टता और सत्यापन के लिए जिम्मेदार रहता है। समय के साथ, जैसा कि प्रत्यायोजन विस्तार होता है, उपयोगकर्ता द्वारा अधिकृत किए गए डोमेन के अंदर एजेंट आवर्ती निर्णय ले सकता है। फ्रेमिंग प्रतिनिधि है, पूरी तरह से स्वतंत्र स्वचालन नहीं।
विश्वसनीय एजेंटों के लिए तीन शोध चुनौतियां
लेखक तीन क्षेत्रों की पहचान करते हैं जिन्हें विश्वसनीय प्रत्यायोजन के व्यावहारिक होने से पहले हल किया जाना चाहिए।
पहचान-निरंतर वैयक्तिकरण के लिए एजेंटों को हर बार एक खाली संदर्भ से शुरू करने के बजाय कार्यों में उपयोगकर्ता वरीयताओं को ले जाने की आवश्यकता होती है।
Rehearsal Engineering के माध्यम से उपयोगकर्ता स्थित विकास का सुझाव है कि एजेंटों को इस तरह से सुधार करना चाहिए जो केवल अलग-थलग कार्य सफलता को अनुकूलित करने के बजाय, उपयोगकर्ता की स्थिति, बाधाओं और निर्णय पैटर्न को दर्शाता हो।
सुरक्षा तंत्र को तकनीकी नियंत्रण के साथ जवाबदेही और उपायों का संयोजन करने की आवश्यकता है। एक विश्वसनीय व्यक्तिगत एजेंट को न केवल हानिकारक कार्यों को सीमित करना चाहिए; इसे उपयोगकर्ता को यह समझने और सही निर्णय लेने का तरीका भी देना चाहिए जब प्रत्यायोजन विफल हो जाता है।
उपयोगकर्ताओं के लिए बदलाव क्यों मायने रखता है
तर्क व्यक्तिगत AI एजेंटों को निर्णय प्रत्यायोजन के लिए उपकरणों के रूप में फिर से तैयार करता है। उनका मूल्य न केवल अनुप्रयोगों पर लंबे क्षितिज कार्यों को पूरा करने में, बल्कि मानव नियंत्रण बनाए रखते हुए पर्यवेक्षण बोझ को कम करने में है। अगला सवाल यह है कि क्या लगातार एजेंट हर कदम की निगरानी किए बिना समय के साथ भरोसा किया जा सकता है?

Comments (0)