एजेंट हार्नेस स्वयं विकसित हो रहा है।
एक फ्रेमवर्क बताता है कि कैसे AI एजेंट हार्नेस परिवर्तनों के माध्यम से विकसित होते हैं जबकि आधार मॉडल तय रहते हैं, मूल्यांकन, सिद्धांत, अनुप्रयोग और शासन को कवर करते हैं।
मुख्य जानकारी
- लेख AI स्वयं विकसित एजेंटों के लिए एक एकीकृत ढांचा प्रस्तुत करता है जो आधार मॉडल को स्थिर रखते हुए अपने हार्नेस निर्देश, मेमोरी, टूल और रनटाइम तर्क को अपडेट करके सुधार करते हैं।
- यह आत्म-विकास विधियों को अलग करता है कि वे क्या संशोधित करते हैंः व्याख्या किए गए घटक जैसे संकेत और वर्कफ़्लोज़ बनाम निष्पादन योग्य घटकों जैसे उपकरण और रनटाइम तर्क, यह देखते हुए कि ये विभिन्न जोखिम उठाते हैं।
- यह चार-भाग मूल्यांकन ढांचा चयन, सक्रियण, श्रेय और सुधार पेश करता है ताकि यह सत्यापित करने में मदद मिल सके कि रिपोर्ट किए गए प्रदर्शन लाभ वास्तविक, हस्तांतरणीय सीखने को दर्शाते हैं या नहीं।
- यह फ्रेमवर्क को व्यक्तिगत सहायता, उद्यम स्वचालन, वैज्ञानिक खोज, रोबोटिक्स और सार्वजनिक सेवाओं में व्यावहारिक अनुप्रयोगों से जोड़ता है, जबकि शासन, जवाबदेही, गोपनीयता और सुरक्षा चिंताओं पर जोर देता है।
- यह अद्यतन एल्गोरिदम, सहायक बुनियादी ढांचे, मूल्यांकन और जिम्मेदार तैनाती में भविष्य की प्राथमिकताओं को रेखांकित करता है, जिसमें तर्क दिया गया है कि सुधार के दावों को वास्तविक रूप से स्वीकार किए जाने से पहले जांच की आवश्यकता होती है।
AI स्वयं विकसित एजेंट: अनुभव से सीखने वाले प्रणालियों के लिए एक नया ढांचा
एक निश्चित आधार मॉडल के आसपास AI एजेंट कैसे सुधार करते हैं, यह समझने के लिए एक एकीकृत ढांचा विकसित किया गया है, जो शोधकर्ताओं और इंजीनियरों को आत्म-विकास के बारे में सोचने का एक संरचित तरीका प्रदान करता है। GitHub पर https://github.com/zgcagi/Harness-RSI पर पोस्ट किए गए काम की जांच करती है कि निष्पादन प्रतिक्रिया "हर्नेस" निर्देशों, मेमोरी, टूल और रनटाइम लॉजिक में स्थायी परिवर्तन कैसे उत्पन्न करती है जो एक बेस मॉडल को घेरती है। लेख AI शोधकर्ताओं, एजेंट डेवलपर्स और किसी भी व्यक्ति के उद्देश्य से है जो अंतर्निहित मॉडल को फिर से प्रशिक्षित किए बिना समय के साथ बेहतर होने की उम्मीद कर रहे हैं।
विकासवाद का उपयोग क्यों महत्वपूर्ण है
अनुभव से सीखने वाले एजेंट बनाना आर्टिफिशियल इंटेलिजेंस का एक केंद्रीय लक्ष्य है। उस लक्ष्य की ओर एक व्यावहारिक मार्ग यह है कि सिस्टम को निश्चित आधार मॉडल के आसपास समय के साथ अनुकूलित किया जाए। इस दृष्टिकोण से बेस मॉडल अपरिवर्तित रहता है जबकि हार्नेस इसके चारों ओर लपेटी गई हर चीज विकसित होती है।
फ्रेमवर्क स्व-विकास एल्गोरिदम को व्यवस्थित करता है जो वे वास्तव में अपडेट करते हैं। कुछ एल्गोरीथ्म निर्देशों, मेमोरी या वर्कफ़्लो विनिर्देशों को लक्षित करते हैं जिन्हें निश्चित घटकों द्वारा व्याख्या की जाती है। अन्य निष्पादन योग्य उपकरण और रनटाइम तर्क पर लक्ष्य रखते हैं। भेद इसलिए महत्वपूर्ण है क्योंकि ये दो परिवार अलग-अलग तरीकों से परिवर्तन का प्रस्ताव देते हैं और स्वीकार करते हैं, और वे विभिन्न जोखिम उठाते हैं।
प्रत्येक रिपोर्ट किए गए लाभ के पीछे चार प्रश्न
लेख का एक प्रमुख योगदान इसका मूल्यांकन ढांचा है। जब स्व-विकसित प्रणाली में सुधार की रिपोर्ट होती है, तो लेखक तर्क देते हैं कि चार अलग-अलग दावे अक्सर एक साथ बंडल किए जाते हैंः
- चयन: क्या अनुमान खोज प्रक्रिया से स्वतंत्र है, या यह चयन प्रभावों को ध्यान में रखता है?
- सक्रियणक्या स्वीकृत अद्यतन वास्तव में स्कोर किए गए रन में काम करता है?
- श्रेय: क्या अद्यतन नियंत्रित मूल्यांकन परिस्थितियों में अंतर का कारण बना?
- सुधार: क्या यह अंतर उन विशिष्ट कार्यों से परे है जो इसे उत्पन्न करते हैं?
समीक्षा किए गए प्रोटोकॉल दिखाते हैं कि क्यों आयोजित प्रदर्शन, घटक उपयोग और बनाए रखा लाभ प्रत्येक को विभिन्न प्रकार के साक्ष्य की आवश्यकता होती है। दूसरे शब्दों में, एक प्रणाली जो आत्म-विकास के बाद उच्च स्कोर करती है, उसने वास्तव में कुछ हस्तांतरणीय नहीं सीखा होगा - लाभ चयन से आ सकता है, एक अद्यतन से जो कभी सक्रिय नहीं हुआ था, या उन कार्यों पर ओवरफिट करने से जो परिवर्तन का कारण बने थे।
विकासवादी एल्गोरिदम और पीएसी सीखने से उधार लिया गया सिद्धांत
सैद्धांतिक विश्लेषण विकासवादी एल्गोरिदम के ढांचे के भीतर दोहन विकास का इलाज करता है। यह लगातार सीखने के लिए पीएसी लर्निंग थ्योरी पर भी आधारित होता है ताकि अल्गोरिथम डिजाइन में अंतर्दृष्टि उत्पन्न हो सके। यह संयोजन डेवलपर्स को इस बारे में तर्क करने का एक तरीका देता है कि परिवर्तन कैसे प्रस्तावित, परीक्षण किए जाते हैं और समय के साथ बनाए रखा जाता है, न कि विशुद्ध रूप से परीक्षण और त्रुटि पर भरोसा करना।
जहां इन प्रणालियों को लागू किया जा रहा है
लेख में कई क्षेत्रों के अनुप्रयोगों को शामिल किया गया हैः व्यक्तिगत सहायता, उद्यम स्वचालन, वैज्ञानिक खोज, रोबोटिक्स और सार्वजनिक सेवाएं। प्रत्येक डोमेन अलग-अलग बाधाओं को लाता है। एक व्यक्तिगत सहायक को उपयोगकर्ता की आदतों के अनुकूल होने की आवश्यकता हो सकती है, जबकि एक वैज्ञानिक खोज एजेंट को नए सबूत सामने आने पर अपने वर्कफ़्लो को अपडेट करने की आवश्यकता होती है। एंटरप्राइज़ ऑटोमेशन और सार्वजनिक सेवाओं से विश्वसनीयता और जवाबदेही के बारे में अतिरिक्त प्रश्न उठते हैं।
काम, बाजारों और शासन पर व्यापक प्रभाव
तकनीकी डिजाइन से परे, लेख उत्पादकता और कौशल, आर्थिक वितरण और बाजार संरचना, नवाचार और सार्वजनिक सेवाओं, गोपनीयता और सुरक्षा और संस्थागत शासन पर संभावित प्रभावों की चर्चा करता है। ये साइड मुद्दे नहीं हैं। यदि एजेंट लगातार अपने स्वयं के निर्देशों, स्मृति या उपकरणों को बदल सकते हैं, तो सवाल यह है कि उन परिवर्तनों को कौन नियंत्रित करता है, जो उन्हें ऑडिट करते हैं, और जब कुछ गलत हो जाता है तो कौन जिम्मेदार होता है वैकल्पिक के बजाय केंद्रीय बन जाते हैं।
अगला क्या है
इन विश्लेषणों के आधार पर, लेखक चार क्षेत्रों में भविष्य की दिशाओं की पहचान करते हैंः अद्यतन एल्गोरिदम, सहायक बुनियादी ढांचा, मूल्यांकन और जिम्मेदार तैनाती। स्वयं विकसित एजेंटों का निर्माण या मूल्यांकन करने वाले पाठकों के लिए, व्यावहारिक टेकअवे यह है कि सुधार दावों को सभी चार मोर्चों चयन, सक्रियण, श्रेय और सुधार पर जांच की जानी चाहिए इससे पहले कि उन्हें वास्तविक माना जाए।
Comments (0)