शुरुआती मूल बातें

सबसे महत्वपूर्ण कागज से पता चलता है कि AI लोग वजन पढ़ और लिख सकते हैं

टेक्नोलॉजी के Massachusetts Institute में शोधकर्ताओं ने कथित तौर पर Qwen3.5, एक छोटे open-source model का निरीक्षण करने और नए प्रशिक्षण लूप के बिना सीधे आंतरिक भार को बदलने के लिए अग्रणी large model का उपयोग किया। इसके वजन के केवल लगभग 0.016% को संशोधित करके, मॉडल की गणितीय सटीकता 7.9% से बढ़कर 48.1% हो गई। परिणाम बताता है कि संपादन ने तर्क विफलता को ठीक कर दिया और नई गणित सिखाने के बजाय मौजूदा क्षमता को अनलॉक कर दिया। यह लक्षित वजन मरम्मत open-source मॉडलों को सुधारने, लागत कम करने और फिर से आकार देने में आसान बना सकती है कि कैसे उन्नत AI सिस्टम अन्य मॉडलों का निदान और संशोधन करते हैं।

सबसे महत्वपूर्ण कागज से पता चलता है कि AI लोग वजन पढ़ और लिख सकते हैं

मुख्य जानकारी

  • शोधकर्ताओं ने कथित तौर पर GPT-6 एस्ट्रा का उपयोग केवल Qwen3.5 0.8B के वजन में से लगभग 0.016% को संपादित करने के लिए किया, अतिरिक्त प्रशिक्षण के बिना इसकी गणित सटीकता को 7.9% से 48.1% तक बढ़ाया।
  • परिणाम को सबसे अच्छी तरह से समझा जाता है कि मॉडल को नए गणितीय कौशल सिखाने के बजाय, एक तर्क की बाधा को ठीक करना जो मौजूदा मॉडल क्षमताओं को अनलॉक करता था।
  • यदि उन्नत AI मॉडल सीधे ओपन-सोर्स मॉडल वजन का निदान और संशोधित कर सकते हैं, तो बेहतर क्षमता वाले 8 9 004 सिस्टम तेज, सस्ता और अधिक सुलभ हो सकते हैं।
  • इस पद्धति से सुरक्षा संबंधी चिंताएं भी उत्पन्न होती हैं, क्योंकि वजन संपादन या तो मॉडल समस्याओं को ठीक कर सकता है या सुरक्षा गार्डरेल को हटा सकता है और यह अभी तक व्यापक रूप से स्केलेबल या लागत प्रभावी साबित नहीं हुआ है।

एक्स पर 2 नवंबर की एक पोस्ट जिसने व्यापक ध्यान आकर्षित किया, ने शोधकर्ताओं को MIT CSAIL में GPT-6 एस्ट्रा का उपयोग करके अतिरिक्त प्रशिक्षण के बिना Qwen3.5 89890001 के आंतरिक भारों को संशोधित करने के लिए वर्णित किया। अनुसंधान टीम के परीक्षण विन्यास में, मॉडल की गणितीय सटीकता दर 7.9% से बढ़कर 48.1% हो गई जब इसके कुल वजन के लगभग 0.016% तक बदलाव किए गए थे।

The Most Important Paper Reveals That AI Can Read and Write Weights

सामान्य प्रशिक्षण लूप की जगह एक छोटा वजन संपादित करें

रिपोर्ट किया गया दृष्टिकोण असामान्य है क्योंकि यह AI मॉडल को बेहतर बनाने के लिए सामान्य मार्ग का पालन नहीं करता था। साधारण मॉडल विकास में, वेट्स संख्याओं के बड़े संग्रह हैं जो निर्धारित करते हैं कि एक मॉडल इनपुट कैसे संसाधित करता है और आउटपुट उत्पन्न करता है। पूर्व-प्रशिक्षण के दौरान, एक मॉडल को भारी मात्रा में डेटा खिलाया जाता है, भविष्यवाणियां करता है, और उन्हें अपेक्षित परिणामों से तुलना करता है. फिर एक प्रशिक्षण एल्गोरिथ्म त्रुटियों के आधार पर वजन को समायोजित कर देता है और प्रक्रिया को कई बार दोहराता है।

यहां तक कि पोस्ट-प्रशिक्षण, जिसमें पर्यवेक्षित फाइन-ट्यूनिंग जैसी सामान्य विधियां शामिल हैं, आमतौर पर डेटा को बार-बार संसाधित करने, पैरामीटर अपडेट करने और परिणामों का मूल्यांकन करने की आवश्यकता होती है। यह महंगा और धीमा हो सकता है, खासकर जब लक्ष्य केवल एक संकीर्ण समस्या को ठीक करना होता है। कठिनाई यह है कि मॉडल की विफलता छोटी संख्या में आंतरिक मापदंडों से जुड़ी हो सकती है, लेकिन उन मानकों की पहचान करना हमेशा आसान नहीं होता है.

इस प्रयोग में, टीम ने Qwen3.589890001 की आंतरिक संरचना का परीक्षण करने के लिए एक अत्याधुनिक बड़े AI मॉडल के रूप में वर्णित जीपीटी -6 एस्ट्रा का उपयोग किया।

परिणाम एक मरम्मत की ओर इशारा करता है, न कि नए गणित सीखने के लिए

मुख्य खोज केवल यह नहीं है कि मॉडल गणित में बेहतर हो गया। शोधकर्ताओं ने एक समस्या को ठीक करने के लिए दिखाई दिया जिसमें Qwen3.589890001 बार-बार अपनी तर्क प्रक्रिया में फंस गया और जवाब देने में विफल रहा। एक बार उस मुद्दे पर ध्यान दिए जाने के बाद, मॉडल गणितीय क्षमता दिखा सकता था जो पहले से ही था लेकिन विश्वसनीय रूप से व्यक्त नहीं कर सका।

यह अंतर मायने रखता है। 7.9% से 48.1% तक की छलांग नाटकीय लगती है, लेकिन यह निष्कर्ष निकालना बहुत जल्दबाजी होगी कि AI ने खरोंच से गणितीय कौशल सीखा। अधिक सावधानीपूर्वक व्याख्या यह है कि वजन संपादन एक आंतरिक विफलता मोड को हटाकर मौजूदा क्षमताओं को अनलॉक किया।

The Most Important Paper Reveals That AI Can Read and Write Weights

विवरण में उपयोग की जाने वाली सादृश्य एक सर्जन है जो रोगी को हजारों अभ्यासों का समाधान करने के बजाय कुछ विशिष्ट कनेक्शन समस्याओं को ठीक करता है। यह छवि लक्षित आंतरिक संपादन और पारंपरिक प्रशिक्षण के बीच अंतर पर कब्जा करती है। पारंपरिक फाइन-ट्यूनिंग में, मॉडल को दोहराए गए उदाहरणों के माध्यम से सिखाया जाता है। यहां, उन्नत मॉडल ने सीधे दूसरे मॉडल के मापदंडों का निरीक्षण किया और उन मूल्यों को बदल दिया जो तर्क चक्र का कारण लग रहे थे।

उस सावधानी के साथ भी, परिणाम उल्लेखनीय है क्योंकि यह सुझाव देता है कि कुछ मॉडल विफलताएं विशुद्ध रूप से ज्ञान-आधारित होने की बजाय संरचनात्मक हो सकती हैं। यदि कोई मॉडल पहले से ही एक कार्य कर सकता है लेकिन इसे लगातार प्रदर्शित नहीं कर सकता, तो क्षमता को दृश्यमान बनाने के लिए एक छोटा लक्षित परिवर्तन पर्याप्त हो सकता है।

ओपन-सोर्स मॉडल के लिए यह क्यों महत्वपूर्ण हो सकता है

प्रयोग उन्नत वाणिज्यिक AI मॉडल और ओपन-सोर्स मॉडलों के बीच संबंध के बारे में एक व्यापक चिंता भी उठाता है। OpenAI और एंथ्रोपिक जैसी कंपनियों से Leading AI सिस्टम आम तौर पर सख्त सुरक्षा मानकों और हानिकारक आउटपुट को रोकने के लिए डिज़ाइन किए गए गार्डरेल के साथ जारी किए जाते हैं। इसके विपरीत, खुले स्रोत मॉडल अक्सर स्थानीय रूप से चल सकते हैं और उपयोगकर्ताओं को उनका उपयोग करने और संशोधित करने की अधिक स्वतंत्रता प्रदान करते हैं।

अब तक, एक ओपन-सोर्स मॉडल को सबसे उन्नत AI सिस्टम के स्तर के करीब लाने के लिए भारी संसाधनों की आवश्यकता होती है। उस लागत ने व्यक्तियों और संगठनों के लिए एक बाधा पैदा की जो स्वतंत्र रूप से अत्यधिक सक्षम मॉडलों का विकास और रखरखाव करना चाहते थे।

यदि उन्नत AI मॉडल छोटे ओपन-सोर्स मॉडलों में कमजोरियों को सीधे पहचान और ठीक कर सकते हैं, तो वह बाधा सिकुड़ सकती है। Powerful AI सिस्टम कम समय में और कम लागत पर सुधार किया जा सकता है, संभावित रूप से उसी सुरक्षा प्रतिबंधों के बिना जो बंद वाणिज्यिक तैनाती के साथ आते हैं। यह संभावना एक कारण है कि शोध तत्काल गणित परिणाम से परे दिलचस्प है।

The Most Important Paper Reveals That AI Can Read and Write Weights

एक सुरक्षा समझौता भी है। जिम्मेदारी से उपयोग किया जाता है, इस तरह के वजन संपादन ज्ञात समस्याओं को ठीक करने और सुरक्षा में सुधार करने में मदद कर सकता है। गलत हाथों में, उसी तकनीक का उपयोग मॉडल में निर्मित सुरक्षा तंत्र को निष्क्रिय करने के लिए किया जा सकता है. आंतरिक भार का निरीक्षण करने और बदलने की क्षमता सकारात्मक उपयोग तक सीमित नहीं है।

जो अभी साबित नहीं हुआ है

अनुसंधान अभी तक नहीं दिखाता है कि यह दृष्टिकोण पारंपरिक प्रशिक्षण की तुलना में सस्ता है। प्रयोगों ने सीधे समग्र लागत-प्रभावशीलता का प्रदर्शन नहीं किया। समस्याओं को पहचानने और परिणामों के परीक्षण के लिए अभी भी डेटा और कंप्यूटिंग संसाधनों की आवश्यकता होती है, इसलिए विधि अभी भी महंगी हो सकती है भले ही वह पूर्ण पुनर्विकास से बच जाए।

रिपोर्ट में यह भी जोर दिया गया कि एस्ट्रा ने ग्रेडिएंट-आधारित प्रशिक्षण नहीं किया। इसके बजाय, इसने क्यूवेन को दोहराए जाने वाले तर्क लूपों पर काबू पाने में मदद की। इसका मतलब है कि परिणाम प्रशिक्षण, फाइन-ट्यूनिंग, सुदृढीकरण सीखने या अनुमानित समय तर्क सुधार के लिए एक सामान्य प्रतिस्थापन नहीं है। यह एक विशिष्ट मरम्मत रणनीति है जो किसी विशेष विफलता पैटर्न पर लागू होती है।

शोध दल द्वारा वर्णित दीर्घकालिक दिशा में Recursive Self-सुधार शामिल है। विचार यह है कि यदि कोई मॉडल अपने स्वयं के वजन की जांच और संशोधित कर सकता है, तो खुद को अनुकूलित करने के लिए बेहतर संस्करण का उपयोग करना जारी रखता है, AI आत्म-सुधार की ओर एक नया रास्ता प्राप्त कर सकता था। लेकिन वह अभी भी भविष्य की दृष्टि है। रिपोर्ट किए गए प्रयोग में, GPT-6 एस्ट्रा ने Qwen3.5 89890001 को संशोधित किया। प्रत्यक्ष भार संपादन के माध्यम से बार-बार खुद को सुधारने वाले AI के चक्र का प्रदर्शन नहीं किया गया है।

सबसे महत्वपूर्ण खुला सवाल यह है कि क्या इस पद्धति को संकीर्ण सुधारों से परे स्केल किया जा सकता है। टीम ने सुझाव दिया कि भविष्य में काम सीधे वजन संशोधित करके नई क्षमताओं को जोड़ने का पता लगा सकते हैं, न कि केवल मौजूदा तर्क विफलताओं की मरम्मत करना। यदि वह काम करता है, तो मॉडल सुधार डेटा-संचालित प्रशिक्षण के बजाय प्रत्यक्ष आंतरिक संपादन जैसा हो सकता है. अगर ऐसा नहीं होता है, परिणाम एक प्रभावशाली प्रदर्शन रह सकता है कि छोटे, लक्षित वजन परिवर्तन कभी-कभी छिपी हुई क्षमताएं अनलॉक कर सकते हैं।

Comments (0)

  1. No comments yet. Be the first to share what worked for you.

Leave a comment

Comments are reviewed before they appear. Your email address is not published.