शुरुआती मूल बातें

चलो Ask Ilya Episode 151 में, क्या AI खराब प्रदर्शन किए बिना भूल सकता है?

मुद्दा #151इसमें AI मेमोरी, टूल रिकवरी, अनलर्निंग, फीडबैक और टोपोलॉजी शामिल है: सिस्टम को बिना नुकसान के क्या रखना, बहाल करना या भूलना चाहिए।

चलो Ask Ilya Episode 151 में, क्या AI खराब प्रदर्शन किए बिना भूल सकता है?

मुख्य जानकारी

  • AI स्मृति को एक सक्रिय चयन समस्या के रूप में माना जाना चाहिए: हालिया, प्रासंगिकता और आवर्ती पैटर्न पुराने संदर्भ को फिर से उपयोगी बनने में मदद कर सकते हैं, जबकि अत्यधिक विलोपन तर्क को नुकसान पहुंचा सकता है।
  • मशीन अनलर्निंग को सत्यापित करना कठिन है क्योंकि मॉडल वास्तव में अंतर्निहित ज्ञान को हटाए बिना अवांछित सामग्री का उत्पादन बंद कर सकते हैं, और यदि उपयोगी इतिहास हटा दिया जाता है तो भूलने से डाउनस्ट्रीम निर्णयों को नुकसान हो सकता है।
  • असफल टूल कॉल से रिकवरी अक्सर मॉडल की कच्ची क्षमता के बजाय रनटाइम द्वारा लौटाई गई जानकारी पर अधिक निर्भर करती है; उपयोगी त्रुटि संदेश, सत्यापन, सीमाएं और डिफ़ॉल्ट सुधार को सक्षम कर सकते हैं।
  • टूल टोपोलॉजी यह निर्धारित करती है कि एजेंट के पास एप्लिकेशन की तुलना में कितना नियंत्रण रहता है, सरल उपकरण कॉल से लेकर शाखाओं और अनुमोदनों के साथ समानांतर, क्रमिक और ग्राफ-आधारित वर्कफ़्लो तक।
  • पोस्ट-ट्रेनिंग और LLM जजिंग के लिए विश्वसनीय फीडबैक सिग्नल और पूर्वाग्रह नियंत्रण की आवश्यकता होती है, क्योंकि न्यायाधीश अपने स्वयं के मॉडल का पक्ष ले सकते हैं और उत्पादन परिणामों को सावधानीपूर्वक मूल्यांकन करने की आवश्यकता है।

मेटा विवरणः Learn AI Together #151एक व्यावहारिक साप्ताहिक अद्यतन में मेमोरी, टूल रिकवरी, पोस्ट-ट्रेनिंग फीडबैक, उपकरण टोपोलॉजी और मशीन अनलर्निंग को शामिल करता है।

In Let's Ask Ilya Episode 151, can AI forget without performing worse?

टैगः AI एजेंट मेमोरी, टूल रिकवरी, मशीन अनलर्निंग, पोस्ट-ट्रेनिंग फीडबैक,LLM जज

विशेष रुप से प्रदर्शित छवि: (अंग्रेज़ी में) ">"</string> मेमोरी, टूल रिकवरी और मशीन अनलर्निंग का अमूर्त, मैत्रीपूर्ण चित्रण; कोई वास्तविक लोग नहीं हैं, न ही लोगो या पाठ।

एजेंट मेमोरी, टूल रिकवरी और मशीन अनलर्निंग पर काम करने वाले डेवलपर्स के लिए#151, इस सप्ताह प्रकाशित, प्रयोगों का एक सेट, सामुदायिक परियोजनाओं और उत्पाद अपडेट को एक व्यावहारिक प्रश्न में बदल देता हैः सिस्टम कैसे तय करें कि क्या रखना है, क्या बहाल करना है, और क्या भूलना है? मुद्दे की केंद्रीय खोज यह है कि मेमोरी JUST भंडारण नहीं है। सिस्टम वार्तालाप इतिहास, पुनर्प्राप्त तथ्यों, उपयोगकर्ता वरीयताओं, टूल परिणामों, प्रशिक्षण प्रतिक्रिया और निर्देशों को जमा करते हैं। उन सभी को रखने से महंगा या शोर हो सकता है, लेकिन बहुत अधिक हटाने से संदर्भ हटाया जा सकता है जो फिर से उपयोगी हो जाता है और एक विफल उपकरण कॉल में सटीक जानकारी हो सकती है जिसे एजेंट को अपने अगले प्रयास की मरम्मत करने की आवश्यकता होती है।

याददाश्त, भूलना और सोच को नुकसान पहुंचाने का खतरा

इस सप्ताह के अंक का लेख, हेयानन की "Tidal Attention: ए मून-साइकिल - Inspired Mechanism फॉर लॉन्ग - Context Memory", एक मेमोरी-चयन विधि प्रस्तावित करता है जो हालियाता, सिमेंटिक प्रासंगिकता और आवर्ती पैटर्न को जोड़ती है। इसका लक्ष्य पुरानी जानकारी को वापस आने देना है जब यह फिर से उपयोगी हो जाता है। लेख विचार को रेटनेट, मैम्बा, लॉन्ग्नेट, इन्फिनी-ध्यान और टाइटन्स से जोड़ता है, फिर एक साधारण कैश सिमुलेशन के साथ नीति का परीक्षण करता है। उस अनुकरण में, ज्वारीय नीति ने सबसे कम हाल ही में उपयोग किए गए कैश को हराया, हालांकि यह फ्रीक्वेंसी-आधारित कैशिंग से मेल नहीं खाता था। लेखक पुनरावृत्ति वास्तव में लंबी संदर्भ स्मृति में सुधार करती है या नहीं इसकी जांच करने के लिए योजना समाप्तियों के साथ मूल्यांकन का भी वर्णन करते हैं।

हेयानन के "Machines That Forget पर उद्देश्य" समस्या का कठिन पक्ष जोड़ता है। एक मॉडल अंतर्निहित ज्ञान को वास्तव में हटाए बिना याद सामग्री का उत्पादन करना बंद कर सकता है, जिससे मशीन अनलर्निंग का मूल्यांकन करना मुश्किल हो जाता है। लेख TOFU, चयनात्मक विघटन और R-TOFU की समीक्षा करता है, और अनुसंधान से पता चलता है कि कुछ भूलने वाले तरीके भी नए प्रदान किए गए साक्ष्य से तर्क करने के लिए एक मॉडल की क्षमता को नुकसान पहुंचा सकते हैं। एक अलग 240 मामले नीति पुनर्प्राप्ति प्रयोग पाया गया कि पुराने रिकॉर्ड को हटाने से निर्णयों में सुधार हुआ, जबकि उपयोगी इतिहास को हटाना उन्हें बदतर बना दिया। इन परिणामों से, लेख तीन परतों में भुलाया जा रहा हैः संग्रहीत सबूत, मॉडल व्यवहार और डाउनस्ट्रीम फैसले। प्रत्येक परत को स्वतंत्र रूप से परीक्षण किया जाना चाहिए।

In Let's Ask Ilya Episode 151, can AI forget without performing worse?

उपकरण वसूली क्या रनटाइम रिटर्न पर निर्भर करता है

अनुच्छेद "Make Your AI Agent पुनर्प्राप्त जब एक Tool Call Fails" द्वारा Satsawat Natakarnkitkul, जिसे नेट के रूप में भी जाना जाता है, दिखाता है कि क्यों असफल कॉल को मृत अंत के तौर पर नहीं माना जाना चाहिए। टिकट-हैंडलिंग उदाहरण में, OpenAI Agents SDK ने मॉडल को यह बताए बिना त्रुटि लौटा दी कि कौन सी प्राथमिकता कोड server स्वीकार कर लिया गया था। गलती ठीक हो सकती थी, लेकिन लापता जानकारी सुधार को रोकती थी। लेखक ने आठ फ्रेमवर्क और छह मॉडलों का परीक्षण किया, फिर छह वसूली पैटर्न लागू किएः उपयोगी त्रुटि संदेश, सैनिटाइज्ड अपवाद, संग्रहीत मूल्य सत्यापन, बारी और बजट सीमाएं, दोहराए गए कॉल का पता लगाना, और पिन डिफ़ॉल्ट। जब स्वीकृत त्रुटि जानकारी जोड़ी गई थी, तो दोनों मेजबान मॉडल हर विफल टिकट कॉल को सही करते थे। परिणाम एक व्यावहारिक सबक की ओर इशारा करता हैः रिकवरी अक्सर मॉडल की कच्ची क्षमता पर कम निर्भर करती है और अधिक सूचना हार्नेस लौटाती है।

"Designing Tool Topologies के लिए AI Agents" द्वारा Deepak Kumar एकल कॉल से टूल उपयोग के समग्र आकार में जाता है। लेख का तर्क है कि जिस तरह से एक एजेंट उपकरणों से जुड़ा हुआ है, वह निर्धारित करता है कि कौन सा निर्णय मॉडल नियंत्रण और कौन से निर्णय एप्लिकेशन नियंत्रित करते हैं। यह चार पैटर्न की तुलना करने के लिए धन हस्तांतरण उदाहरण का उपयोग करता हैः व्यक्तिगत उपकरण कॉल, समानांतर निष्पादन LangChain के एलसीईएल के साथ अनुक्रमिक श्रृंखलाएं, और लैंगग्राफ वर्कफ़्लो जिसमें ब्रांचिंग, विलय और मानव स्वीकृति शामिल होती है। कोड उदाहरण दिखाते हैं कि कार्यप्रवाह जटिलता बढ़ने पर प्रत्येक पैटर्न कैसे अधिक उपयोगी होता है।

फीडबैक डिजाइन, जज पूर्वाग्रह और शीघ्र रखरखाव

Vikram Kharvi का "LLM Post-प्रशिक्षण: Feedback Design और Algorithm Selection" एक सरल नियम से शुरू होता हैः पोस्ट-ट्रेनिंग केवल तभी काम करता है जब फीडबैक बेहतर व्यवहार को बदतर व्यवहार से अलग कर देता है। लेख एसएफटी, डीपीओ, केटीओ, पीपीओ और जीआरपीओ को training data पर मैप करता है और प्रत्येक विधि की प्रतिक्रिया की आवश्यकता होती है, फिर RLHF , आरएलएआईएफ और आरएलवीआर के बीच अंतर बताता है। यह रूब्रिक आधारित पुरस्कारों को भी शामिल करता है, उत्पादन पटरियों से एकत्रित प्रतिक्रिया, dataset संस्करण, और अपेक्षित लाभों के साथ प्रशिक्षण लागत की तुलना करने के लिए एक सूत्र। मूल्यांकन मार्गदर्शन में आयोजित परीक्षण, प्रतिगमन स्लाइस और मिलान आधार रेखाएं शामिल हैं ताकि यह जांच किया जा सके कि क्या वास्तव में अनुकूलन वास्तविक कार्यभार में स्थानांतरित हो गया है।

टीम ने टोनबेंच का निर्माण किया और फिर परीक्षण किया कि क्या इसके पीछे न्यायाधीशों पर भरोसा किया जा सकता है। प्रत्येक मॉडल दस कार्यों में से प्रत्येक के लिए पांच मसौदे लिखता है क्योंकि एक ही मॉडल एक ही संकेत से बहुत अलग परिणाम उत्पन्न कर सकता है. चार न्यायाधीश हर ड्राफ्ट को स्वर, पदार्थ, संरचना, हुक, ढलान और अन्य आयामों में स्कोर करते हैं। जब जज खुद को मापा गया था, तो परिणाम स्पष्ट प्रयोगशाला वरीयताओं को दिखाए गए थे। 26 अक्टूबर बोर्ड पर, जीपीटी-6.1 SOL ने OpenAI मसौदों 4.1 को अन्य LLM न्यायमूर्ति के अंकों की भविष्यवाणी की तुलना में अधिक अंक दिए, और Claude Opus 5.5 Anthropic मसौदाओं को एक छोटा पूर्ण बढ़ावा दिया। लेख बेंचमार्क सेटअप समझाता है, क्यों मसौदें उपयोग की जाती हैं, कैसे एक स्क्रिप्ट चुना जाता है, कैसे न्यायाधीश मानव रेटिंग्स के खिलाफ कैलिब्रेट किए जाते हैं, और लेखन परिणाम कैसे गाइड हो सकते हैं। यह अब एक छोटे व्यावहारिक विचार भी हैः कई ड्रॉफ्ट्स के साथ कई शेयर बनाने के तहत एक सस्ता नमूना,

Towards AI Co-संस्थापक और समुदाय के प्रमुख लुई-फ्रेंकोइस बुचार्ड ने ब्राउन, लेखन एजेंट को बनाने से एक AI टिप का योगदान दिया है। ब्राउन की शुरुआत सभी लेखन नियमों वाले एक संकेत के साथ हुई थी। यह एक प्रारूप के लिए काम करने योग्य था। एक बार जब इसे विभिन्न लेखकों के लिए लेख, वीडियो स्क्रिप्ट और सामाजिक पोस्ट लिखना पड़ा, तो हर संपादन जोखिम भरा हो गयाः लिपियों के लिए जोड़ा गया नियम लेखों को प्रभावित कर सकता था, और एक लेखक की आवाज बदलकर आवाज़ से संबंधित निर्देशों को छू सकता था। समाधान यह था कि प्रॉम्प्ट को विभाजित किया जाए कि प्रत्येक भाग को कितनी बार बदलने की आवश्यकता होती है। चार प्रोफ़ाइल फ़ाइलें कार्यों में तय रहती हैंः यांत्रिकी, संरचना, शब्द और स्वर। दो गतिशील रूप से लोड होते हैंः प्रारूप प्रोफाइल और लेखक की आवाज़। एक वीडियो प्रारूप जोड़ने का मतलब अब एक फ़ॉर्मैट फाइल बदलना होता है। एक नए लेखक को जोड़ना एक वॉयस प्रोफ़ाईल फ़ाइल को साझा करना आसान बनाता है। लिखने के नियम अछूते रहते हैं। टिप आदेशों को चर समूहों और मानचित्रों में

In Let's Ask Ilya Episode 151, can AI forget without performing worse?

स्मृति के आसपास बुनियादी ढांचा और सामुदायिक परियोजनाएं AI

MongoDB की नई Vercel AI SDK एकीकरण एटलस में बहुस्तरीय मेमोरी जोड़ती है, जिससे प्रत्येक स्मृति प्रकार अपनी स्वयं की प्रतिधारण नीति का पालन कर सकता है। यह स्वचालित रूप से पुनर्प्राप्ति के लिए आवश्यक वेक्टर इंडेक्स भी बना सकती है। जो बिल्डरों को तथ्यों और कार्यप्रवाहों से अल्पकालिक संदर्भ अलग करने देता है जिनकी एजेंट को बाद में आवश्यकता हो सकती है. एकीकरण open source , AI SDK v6 और v7 का समर्थन करता है, और npm पर उपलब्ध है।

Learn AI Together Discord समुदाय सहयोग के अवसरों से भरा हुआ है। बिल्डर एप्लाइड AI में गोता लगाने के लिए उत्साहित हैं, एक अध्ययन साथी चाहते हैं, या एक जुनून परियोजना के लिए भागीदार चाहते हैं जो सहयोग चैनल में शामिल हो सकते हैं; अनुभाग हर हफ्ते शांत अवसर साझा करता है।

चित्रित समुदाय पोस्ट __pop1 से आता है, जिसने एआई-एटलस बनाया, एक परियोजना जो सार्वजनिक GitHub रिपॉजिटरी का मूल्यांकन करती है ताकि यह दिखाया जा सके कि डेवलपर्स ने वास्तव में machine learning , computer vision , natural language processing , LLMs और AI एजेंटों पर क्या निर्माण किया है। प्रत्येक प्रोजेक्ट को तकनीकी गहराई, मौलिकता, पूर्णता, पुनरुत्पादकता और अन्य इंजीनियरिंग गुणों को कवर करने वाले सात-भाग के रूब्रिक के साथ स्कोर किया जाता है, जिसका मूल्यांकन source code से जुड़ा हुआ है। डेवलपर अपने प्रोफाइल का दावा कर सकते हैं और प्रत्येक परियोजना को बेहतर बनाने के लिए चरण-दर-चरण रोडमैप प्राप्त कर सकते हैंः टूल पहले ही 218 डेवलपर्स को मैप कर चुका है और 2,216 open-source AI रिपोजिटरी का विश्लेषण किया गया है। कोई उपयोगकर्ता खाता बनाए बिना मुफ्त में software 7 प्रोफ़ाइल मानचित्रित कर सकता है।

सहयोग अनुभाग तीन खुले कॉल पर प्रकाश डालता है। एमटीएनएमसीजी एक वैकल्पिक machine learning वास्तुकला पर काम कर रहा है जो Transformers से बेहतर प्रदर्शन करता है और उन लोगों की तलाश में है जो इसे समीक्षा, प्रतिक्रिया साझा करने और परियोजना के साथ मदद कर सकते हैं; इच्छुक लोग उसे धागे में संपर्क कर सकते हैंः बी_प्रोटिगो एक ऐसा उपकरण बना रहा है जिससे यह पता लगाने में मदद मिलती है कि कौन से शब्द AI वास्तव में मायने रखते हैं और इसका परीक्षण और सुधार करने के लिए पृष्ठभूमि वाले लोगों को ढूंढ रहे हैं; जो सोचते हैं कि वे मदद कर सकता है वह धागे तक पहुंच सकता है: कार्लोस 1256 machine learning इंजीनियर बनने की दिशा में अध्ययन कर रही है और software इंजीनियरिंग मूलभूत बातों पर ध्यान केंद्रित करती है, और उसी लक्ष्य के साथ एक अध्ययन भागीदार की आवश्यकता होती है; अन्य लोग उनके साथ जुड़ सकते हैं। इस मुद्दे में सप्ताह का मेम भी शामिल है, जिसे जाडेसेक द्वारा साझा किया गया है।

बिल्डरों के लिए व्यावहारिक प्रभाव यह है कि मेमोरी, टूल एरर्स और पोस्ट-ट्रेनिंग फीडबैक अलग-अलग काम नहीं हैं। वे एक ही प्रश्न से जुड़े हुए हैंः अगली निर्णय को कौन सी जानकारी प्रभावित करनी चाहिए? एक पुनर्प्राप्ति प्रणाली को अवधारण नीतियों की आवश्यकता होती है, एक उपकरण हार्नेस को उपयोगी त्रुटि सिग्नल की आवश्यकता ہوتی है, प्रशिक्षण पाइपलाइन को प्रतिक्रिया की जरूरत होती है जो मूल्यांकन से बचती है, और न्यायाधीश को कैलिब्रेशन की ज़रूरत होती है।AI#151: Can AI Forget Without Getting Worse? मूल रूप से Medium पर प्रकाशित किया गया था, जहां पाठक कहानी को हाइलाइट करके और प्रतिक्रिया देकर बातचीत जारी रखते हैं। Towards AI के साथ प्रकाशन में रुचि रखने वाली टीमें दिशानिर्देशों की जांच कर सकती हैं और साइन अप कर सकते हैं; यदि यह आउटलेट की संपादकीय नीतियों और मानकों को पूरा करता है तो काम नेटवर्क पर प्रकाशित होता है।

Comments (0)

  1. No comments yet. Be the first to share what worked for you.

Leave a comment

Comments are reviewed before they appear. Your email address is not published.