उपकरण समीक्षाएँ

क्रॉस-टीचर गार्डिंग डोमेन रूटेड पर्यवेक्षण से परे पॉलिसी पर मल्टी टीचर डिस्टिलेशन को बढ़ाता है।

रोडएमओपीडी बहु-शिक्षक आसवन में शिक्षक संघर्ष को कम करता है, Qwen3-4B के साथ चिकित्सा परीक्षणों में 8.78 अंकों तक छात्र की सटीकता में सुधार।

क्रॉस-टीचर गार्डिंग डोमेन रूटेड पर्यवेक्षण से परे पॉलिसी पर मल्टी टीचर डिस्टिलेशन को बढ़ाता है।

मुख्य जानकारी

  • रोडएमओपीडी JD.com और Nanjing University द्वारा विकसित एक बहु-शिक्षक पर नीति आसवन विधि है जो छात्र मॉडल को परस्पर विरोधी प्रतिक्रिया शैलियों वाले विशेषज्ञ शिक्षकों से अधिक प्रभावी ढंग से सीखने में मदद करती है।
  • यह कई शिक्षकों द्वारा समर्थित token स्तर के सुधारों को मजबूत करके हानिकारक शिक्षक संघर्षों को कम करता है जबकि सिग्नल को कमजोर कर देता है जहां शिक्षक असहमत होते हैं।
  • रोडएमओपीडी टारगेट डोमेन के लिए उपयोगी लर्निंग सिग्नल को संरक्षित करते हुए परस्पर विरोधी अद्यतन दिशाओं को दबाने के लिए निवारक ढांचा प्रक्षेपण का उपयोग करता है।
  • Qwen3-4B प्रयोगों में, रोडएमओपीडी ने उच्च-संघर्ष मैथ-मेडिकल और कोड-चिकित्सा सेटिंग्स में Vanilla MOPD पर 8.78 प्रतिशत अंक तक चिकित्सा सटीकता में सुधार किया।
  • कंपनी के आंतरिक अनुमोदन की प्रतीक्षा करते हुए, इस पद्धति को 1-2 महीनों में ओपन-सोर्स होने की उम्मीद है।

मेटा विवरणः JD.com और Nanjing University से रोडएमओपीडी एक छात्र मॉडल को विरोधाभासी शिक्षकों से सीखने में मदद करता है और चिकित्सा सटीकता को 8.78 प्रतिशत तक बढ़ा देता है।

Cross-Teacher Guarding Enhances Multi-Teacher On-Policy Distillation Beyond Domain-Routed Supervision.

टैगः सड़क एमओपीडी, बहु-शिक्षक प्रशिक्षण Qwen3-4B, मॉडल आसवन, AI अनुसंधान

विशेष रुप से प्रदर्शित छवि: (अंग्रेज़ी में) ">"</string> शिक्षक पथों के एक छात्र मार्ग में विलय होने का अमूर्त मैत्रीपूर्ण चित्रण, कोई वास्तविक व्यक्ति नहीं, कोई लोगो नहीं, न ही पाठ

JD.com की ऑक्सीजनवीएलएम टीम और Nanjing University द्वारा संयुक्त रूप से विकसित किया गया रोडएमओपीडी, छात्र मॉडल के लिए एक प्रशिक्षण विधि है जो एक साथ कई विशेषज्ञ शिक्षकों से सीखते हैं। यह उन पाठकों को लक्षित करता है जो जानना चाहते हैं कि क्यों अधिक शिक्षक जोड़ना कभी-कभी एक डोमेन में मॉडल को बदतर बना सकता है, और कैसे यह दृष्टिकोण हानिकारक संघर्षों को कम करते हुए उपयोगी हिस्सों को रखने का प्रयास करता है। रिपोर्ट किए गए परिणाम Qwen3-4B का उपयोग करके उच्च संघर्ष सेटिंग्स में Vanilla MOPD पर 8.78 प्रतिशत अंक तक चिकित्सा सटीकता लाभ है।

Cross-Teacher Guarding Enhances Multi-Teacher On-Policy Distillation Beyond Domain-Routed Supervision.

क्यों कई शिक्षक शोर पैदा कर सकते हैं

मूल मुद्दा स्वयं शिक्षकों की संख्या नहीं है, बल्कि अलग-अलग शिक्षक कैसे जवाब देते हैं। एक क्षेत्र में मजबूत शिक्षक एक शैली, स्पष्टीकरण पैटर्न या सुधार फोकस का उपयोग कर सकता है जो दूसरे स्थान पर मजबूत शिक्षक के साथ टकराता है। जब एक छात्र मॉडल को एक ही समय में ये सभी सिग्नल प्राप्त होते हैं, तो उपयोगी विशेषज्ञता विरोधाभासी मार्गदर्शन के साथ मिश्रित हो सकती है। रोडएमओपीडी को काफी हद तक विभिन्न प्रतिक्रिया शैलियों और डोमेन विशेषज्ञता वाले शिक्षकों के बीच सीखने के संघर्षों को कम करने के लिए डिज़ाइन किया गया है। लक्ष्य व्यक्तिगत क्षेत्रों में गिरावट को कम करते हुए कई विशेषज्ञों की क्षमताओं को एकीकृत करने में मदद करना है।

समझौता सुधारों को मजबूत करता है, संघर्ष कम हो जाता है

रोडएमओपीडी एक ही छात्र-जनित प्रतिक्रिया का मूल्यांकन करने के लिए मार्ग और सहायक शिक्षकों को एक साथ लाता है। वह साझा मूल्यांकन विधि को यह तुलना करने का एक तरीका देता है कि शिक्षक क्या समर्थन करते हैं। यदि कई शिक्षक संयुक्त रूप से समान token -स्तरीय सुधार का समर्थन कर रहे हैं, तो सुधार मजबूत हो जाता है। token स्तर के सुधार को पूरे उत्तर पर केवल व्यापक निर्णय की बजाय, प्रतिक्रिया के एक छोटे टुकड़े से बंधे मार्गदर्शन के रूप में समझा जा सकता है। अगर शिक्षक असहमत हैं, विरोधाभासी संकेत उसी बल के साथ पारित होने के बजाय कमजोर हो जाते हैं।

अगला कदम निवारक ढाल प्रक्षेपण है। एक ढाला उस दिशा का प्रतिनिधित्व करता है जिसमें प्रशिक्षण के दौरान मॉडल को अपडेट किया जा रहा है। रोडएमओपीडी इस प्रोजेक्शन का उपयोग अद्यतन घटकों को दबाने के लिए करता है जो शिक्षक संघर्ष को दर्शाते हैं, जबकि लक्षित डोमेन के लिए सीखने के संकेत को अनुकूलनशील रूप से संरक्षित करते हैं। व्यावहारिक शब्दों में, इसका मतलब यह है कि विधि केवल हर असहमति को म्यूट नहीं करती है। यह अद्यतन के उन हिस्सों को रखने की कोशिश करती है जो डोमेन पर प्रशिक्षित होने में मदद करते हैं, और उन भागों को कम करते हैं जो छात्र को विपरीत दिशाओं में धक्का देते हैं।

Cross-Teacher Guarding Enhances Multi-Teacher On-Policy Distillation Beyond Domain-Routed Supervision.

Qwen3-4B उच्च-संघर्ष डोमेन में परिणाम

रिपोर्ट किए गए परिणाम Qwen3-4B का उपयोग करते हैं। उच्च-संघर्ष गणित-चिकित्सा और कोड-मेडिकल सेटिंग्स में, रोडएमओपीडी Vanilla MOPD पर दोनों डोमेन में सुधार करता है। सबसे बड़ा रिपोर्ट किया गया आंकड़ा औसत चिकित्सा सटीकता में 8.78 प्रतिशत अंक तक की वृद्धि है। यह विधि अधिक संगत मैथ-कोड संयोजन में लाभ भी दिखाती है। संयुक्त गणित-कोड़-चિકित्सा प्रशिक्षण के तहत, तीनों क्षेत्रों में सुधार की सूचना दी गई हैः गणित, कोड और चिकित्सा।

ये सेटिंग्स उपयोगी हैं क्योंकि वे शिक्षक संगतता के विभिन्न स्तरों का परीक्षण करते हैं। गणित और चिकित्सा, या कोड और मेडिकल को उच्च-संघर्ष के रूप में वर्णित किया गया है, जबकि गणित और कोड को अधिक संगत बताया जाता है। रिपोर्ट किए गए लाभ से पता चलता है कि शिक्षक संघर्ष को कम करना सबसे ज्यादा दिखाई देता है जब शिक्षक छात्र को अलग-अलग दिशाओं में खींचते हैं, लेकिन यह तब भी मदद कर सकता है जब डोमेन करीब होते हैं।

पाठक आगे क्या उम्मीद कर सकते हैं

कोड वर्तमान में open-source रिलीज के लिए आंतरिक कंपनी अनुमोदन से गुजर रहा है। अपेक्षित रिलीज़ विंडो अगले 1-2 महीनों के भीतर है। पाठकों के लिए, इसका मतलब है कि कार्यान्वयन जल्द ही निरीक्षण के लिए उपलब्ध हो सकता है, हालांकि कोई निश्चित तिथि नहीं दी गई है। मुख्य टेकआउट यह है कि रोडएमओपीडी एक ठोस प्रशिक्षण विफलता मोड को संबोधित करता हैः एक छात्र मॉडल जो डोमेन-विशिष्ट प्रदर्शन खो देता है क्योंकि कई विशेषज्ञ शिक्षक असहमत होते हैं। समझौते को मजबूत करने, संघर्ष को कम करने और ढाल को प्रोजेक्ट करके, इसका उद्देश्य 8.78 प्रतिशत अंक तक की चिकित्सा सटीकता लाभ के साथ बहु-शिक्षक सीखने को अधिक स्थिर बनाना है।

Comments (0)

  1. No comments yet. Be the first to share what worked for you.

Leave a comment

Comments are reviewed before they appear. Your email address is not published.